NVIDIA藉由TensorRT 3加速資料中心龐大數據推演需求

2017.09.27 06:05PM
是NVIDIA藉由TensorRT 3加速資料中心龐大數據推演需求這篇文章的首圖
首圖

除在中國地區舉辦的GTC大會中說明未來電腦運算電路設計將更為複雜,並且將導入大量深度學習應用模式之外,NVIDIA更宣布針對旗下Tesla加速器所設計的新版TensorRT 3推論軟體,將可應用在影像識別、語音辨識、自然語言處理、圖像搜尋,以及個人化需求資訊建議等應用,並且強調採Tesla加速器的整體建置成本將比全數以處理器運算的1/10左右,但整體推論成效卻足足達40倍以上。

此次推出的TensorRT 3推論軟體主要針對佈署至線上的人工智慧應用產品所設計,藉此讓類神經網路運算能更快進行最佳化,並且完成驗證後進行數據推論,相比其他學習框架將能提昇3-5倍左右的深度學習推論,並且對應大型數據中心、車用平台使用,其中分別提供高精度的INT8、FP16浮點運算能力。

根據NVIDIA說明,藉由導入TensorRT 3推論軟體約可讓資料中心廠商節省數百萬美元的購置成本,以及能源消耗成本,而開發者也能在短短一天內訓練具人工智慧演算能力的類神經網路架構,開發出運行速度比其訓練框架高出3到5倍的推論解決方案。

同時,NVIDIA也宣布推出可提供低延遲大規模影像即時分析功能的Deep Stream 9軟體開發工具,以及新一代加速運算軟體平台CUDA 9,其中前者具備INT8推演精度與結合顯示卡加速轉碼效率特性,配合Tesla P4加速之下約可對應30路的HD畫質串流影片內容分析,而後者則可對應Volta架構等級顯示卡,並且可讓函式庫、執行緒管理導入全新編程模型,並且也讓除錯、分析工具提升5倍運作效能,並且讓超級電腦及深度學習應用效果提昇。

相關消息

開箱評測
「外掛」讓家變得更聰明! SwitchBot 幫你省錢省力,輕鬆打造智慧家庭!
癮特務
1 天前
汽車未來
Gogoro推出0元月租資費方案 設定費高達9000元用戶不買單
討喜小姐
14 個小時前
開箱評測
只是換了耳塞 就能聽見以前完全聽不到的聲音細節
Gizmodo Japan
10 個小時前
Xbox Game「Lips」Model
stoneip
16 年前
開箱評測
我要跟杯麵說再見了 輕鬆料理袋裝泡麵的時代終於來臨
Gizmodo Japan
10 個小時前
快訊
日亞 Prime Day 開跑,Apple、三星 3C 好物值得入手,這波不逛真的會錯過
Shopping guide
18 個小時前
開箱評測
隔壁房間也能輕鬆連接 最長7公尺的USB Type-C線材
Gizmodo Japan
18 個小時前
開箱評測
卡片般薄又輕巧的GamerCard遊戲機 盡情享受懷舊小遊戲吧
Gizmodo Japan
16 個小時前
快訊
樂維 RK 藍牙無線機械鍵盤只要 2290,CP 未免也太高
Shopping guide
1 個月前