NVIDIA 在中國 GTC 宣布 TensorRT 3 ,加速大型資料中心 AI 推論

NVIDIA 在稍早的中國 GTC大會宣布 TensorRT 3推論軟體,能夠應用在包括影像與語音辨識、自然語言處理、圖像搜尋與個人化建議等各類 AI應用領域,並且標榜 TensorRT搭配 NVIDIA Tesla加速器僅需 CPU 解決方案 1/10 成本,卻能在相同的應用中發揮 40 倍推論效能。

TensorRT 3 主要針對江 AI 部屬到線上產品,為具備最佳化高效能編程器與執行引擎,能夠針對類神經網路進行快速最佳化與驗證後用於於推論,能夠將訓練完的類神經網路導入超大型資料中心以及車用 GPU 平台; TensorRT 具備高精度 INT8 、 FP16 浮點運算能力,相較其他訓練框架能具備 3 到 5 倍的推論解決方案。

在宣布 TensorRT 3 同時, NVIDIA也一併宣布 Deep Stream 9 SDK與 CUDA 9 兩項軟體; Deep Stream 9 可提供滴延遲的大規模影像即時分析功能,可作為整合先進影片推論功能之用,具備 INT8 精度與 GPU 加速轉碼,可藉由 Tesla P4 GPU 進行達 30 路 HD 解析度串流影片內容;至於 CUDA 9為 NVIDIA新一代加速運算軟體平台,能夠藉由支援 Volta 架構 GPU ,使函式庫、針對執行緒管理的全新編程模型、更新版除厝與分析工具提升 5 倍性能,使 HPC 與深度學習效率更強大。

0 則回應

昔日的Intel女強人前進新創公司 打造超越Intel的新晶片 昔日的Intel女強人前進新創公司 打造超越Intel的新晶片 20 個小時前
中國超過20家共享單車接連爆發倒閉潮 中國超過20家共享單車接連爆發倒閉潮 21 個小時前
Pentax K1 Mark II 照片曝光,造型完全未變只能期待內在強化了 Pentax K1 Mark II 照片曝光,造型完全未變只能期待內在強化了 21 個小時前
碩果僅存的小尺寸機皇仍有後,疑似 Xperia XZ2 Compact 的照片曝光 碩果僅存的小尺寸機皇仍有後,疑似 Xperia XZ2 Compact 的照片曝光 22 個小時前
Uber網路叫車+信用卡付款不符東南亞民情 業務轉手給在地簡訊叫車服務Grab Uber網路叫車+信用卡付款不符東南亞民情 業務轉手給在地簡訊叫車服務Grab 1 天前
日本公司用AI面試官 不再以貌取人 日本公司用AI面試官 不再以貌取人 1 天前
自駕車商用時代展開 Waymo取得美國境內首張自動駕駛商用營運執照 可線上預約車輛 自駕車商用時代展開 Waymo取得美國境內首張自動駕駛商用營運執照 可線上預約車輛 2 天前

熱門文章

最新消息

本日精選