NVIDIA 在中國 GTC 宣布 TensorRT 3 ,加速大型資料中心 AI 推論

2017.09.27 06:45PM
222

NVIDIA 在稍早的中國 GTC大會宣布 TensorRT 3推論軟體,能夠應用在包括影像與語音辨識、自然語言處理、圖像搜尋與個人化建議等各類 AI應用領域,並且標榜 TensorRT搭配 NVIDIA Tesla加速器僅需 CPU 解決方案 1/10 成本,卻能在相同的應用中發揮 40 倍推論效能。

TensorRT 3 主要針對江 AI 部屬到線上產品,為具備最佳化高效能編程器與執行引擎,能夠針對類神經網路進行快速最佳化與驗證後用於於推論,能夠將訓練完的類神經網路導入超大型資料中心以及車用 GPU 平台; TensorRT 具備高精度 INT8 、 FP16 浮點運算能力,相較其他訓練框架能具備 3 到 5 倍的推論解決方案。

在宣布 TensorRT 3 同時, NVIDIA也一併宣布 Deep Stream 9 SDK與 CUDA 9 兩項軟體; Deep Stream 9 可提供滴延遲的大規模影像即時分析功能,可作為整合先進影片推論功能之用,具備 INT8 精度與 GPU 加速轉碼,可藉由 Tesla P4 GPU 進行達 30 路 HD 解析度串流影片內容;至於 CUDA 9為 NVIDIA新一代加速運算軟體平台,能夠藉由支援 Volta 架構 GPU ,使函式庫、針對執行緒管理的全新編程模型、更新版除厝與分析工具提升 5 倍性能,使 HPC 與深度學習效率更強大。

回應 0
零售業O2O正風行 Google網路廣告、雲端服務業務大利多 零售業O2O正風行 Google網路廣告、雲端服務業務大利多 7 個小時前
Intel將量產用於今年最新款iPhone的LTE晶片XMM 7560 Intel首款5G通訊晶片明年出貨 Intel將量產用於今年最新款iPhone的LTE晶片XMM 7560 Intel首款5G通訊晶片明年出貨 2 天前
三星2020年將在美國、歐洲及中國境內使用100%綠能 也在韓國大幅投入綠能發電 三星2020年將在美國、歐洲及中國境內使用100%綠能 也在韓國大幅投入綠能發電 2 天前
小米與Ericsson和解 搭載聯發科處理器的紅米6系列機種將在印度開賣 小米與Ericsson和解 搭載聯發科處理器的紅米6系列機種將在印度開賣 2 天前
高通高估其資料中心產品的市場需求,將裁撤近一半部門員工 高通高估其資料中心產品的市場需求,將裁撤近一半部門員工 3 天前
Intel 有可能在今年九月推出 8 、 16 緒的 Coffee Lake Refresh 處理器 Intel 有可能在今年九月推出 8 、 16 緒的 Coffee Lake Refresh 處理器 3 天前
三星Galaxy S9+與雅閣合作 推出40000元包廂套餐 三星Galaxy S9+與雅閣合作 推出40000元包廂套餐 3 天前
AMD 宣示提供繪圖工作站從繪圖、 AI 、虛擬化與軟體方案,表示競爭對手有的功能我都有、軟體還是開源的 AMD 宣示提供繪圖工作站從繪圖、 AI 、虛擬化與軟體方案,表示競爭對手有的功能我都有、軟體還是開源的 4 天前

熱門文章

最新消息

本日精選