NVIDIA藉由TensorRT 3加速資料中心龐大數據推演需求

2017.09.27 06:05PM
66

導入TensorRT 3推論軟體約可讓資料中心廠商節省數百萬美元的購置成本,以及能源消耗成本,而開發者也能在短短一天內訓練具人工智慧演算能力的類神經網路架構,開發出運行速度比其訓練框架高出3到5倍的推論解決方案。

除在中國地區舉辦的GTC大會中說明未來電腦運算電路設計將更為複雜,並且將導入大量深度學習應用模式之外,NVIDIA更宣布針對旗下Tesla加速器所設計的新版TensorRT 3推論軟體,將可應用在影像識別、語音辨識、自然語言處理、圖像搜尋,以及個人化需求資訊建議等應用,並且強調採Tesla加速器的整體建置成本將比全數以處理器運算的1/10左右,但整體推論成效卻足足達40倍以上。

 

此次推出的TensorRT 3推論軟體主要針對佈署至線上的人工智慧應用產品所設計,藉此讓類神經網路運算能更快進行最佳化,並且完成驗證後進行數據推論,相比其他學習框架將能提昇3-5倍左右的深度學習推論,並且對應大型數據中心、車用平台使用,其中分別提供高精度的INT8、FP16浮點運算能力。

根據NVIDIA說明,藉由導入TensorRT 3推論軟體約可讓資料中心廠商節省數百萬美元的購置成本,以及能源消耗成本,而開發者也能在短短一天內訓練具人工智慧演算能力的類神經網路架構,開發出運行速度比其訓練框架高出3到5倍的推論解決方案。

同時,NVIDIA也宣布推出可提供低延遲大規模影像即時分析功能的Deep Stream 9軟體開發工具,以及新一代加速運算軟體平台CUDA 9,其中前者具備INT8推演精度與結合顯示卡加速轉碼效率特性,配合Tesla P4加速之下約可對應30路的HD畫質串流影片內容分析,而後者則可對應Volta架構等級顯示卡,並且可讓函式庫、執行緒管理導入全新編程模型,並且也讓除錯、分析工具提升5倍運作效能,並且讓超級電腦及深度學習應用效果提昇。

 
 
回應 0
零售業O2O正風行 Google網路廣告、雲端服務業務大利多 零售業O2O正風行 Google網路廣告、雲端服務業務大利多 23 個小時前
Intel將量產用於今年最新款iPhone的LTE晶片XMM 7560 Intel首款5G通訊晶片明年出貨 Intel將量產用於今年最新款iPhone的LTE晶片XMM 7560 Intel首款5G通訊晶片明年出貨 2 天前
三星2020年將在美國、歐洲及中國境內使用100%綠能 也在韓國大幅投入綠能發電 三星2020年將在美國、歐洲及中國境內使用100%綠能 也在韓國大幅投入綠能發電 2 天前
小米與Ericsson和解 搭載聯發科處理器的紅米6系列機種將在印度開賣 小米與Ericsson和解 搭載聯發科處理器的紅米6系列機種將在印度開賣 2 天前
硬科技:為何遲遲不見市場上的高效能泛用處理器上看10GHz 硬科技:為何遲遲不見市場上的高效能泛用處理器上看10GHz 3 天前
高通高估其資料中心產品的市場需求,將裁撤近一半部門員工 高通高估其資料中心產品的市場需求,將裁撤近一半部門員工 3 天前
Intel 有可能在今年九月推出 8 、 16 緒的 Coffee Lake Refresh 處理器 Intel 有可能在今年九月推出 8 、 16 緒的 Coffee Lake Refresh 處理器 3 天前
三星Galaxy S9+與雅閣合作 推出40000元包廂套餐 三星Galaxy S9+與雅閣合作 推出40000元包廂套餐 3 天前

熱門文章

最新消息

本日精選