高通日前已經在舊金山發表首款針對 AI 資料中心的產品 Cloud AI 100 ,這是高通首款針對雲伺服器先進 AI 應用的加速器產品,在深圳的 AI Open Day 主題演講後,也以這款高通新產品做為開端介紹高通的 AI 新戰略。
雖然在伺服器 AI 領域,高通還是首度跨入,不過高通以長年行動運算培育的低功耗、先進訊號處理技術、先進製程與 Snapdragon 產業規模化作為後盾,將相關 AI 技術從終端帶到雲端。
當前業界雖積極探討 AI 在終端設備的邊際運算,然而許多服務如語音助理,線上自動化服務,工業自動化,城市安全等,仍仰賴基於雲的 AI 服務,全球的服務商也陸續為伺服器系統導入 AI 技術,為了達到更好的效率, AI 加速器技術也成為服務商所看好的硬體技術。
高通 Cloud AI 100 是一款 AI 加速器產品,高通強調,在 AI 的應用,傳統通用運算的 CPU 效率並不理想,透過 GPU 與 FPGA 的異構加速運算則具 CPU 10 倍性能,然而,針對 AI 運算最佳化的 AI 加速器則有著異構運算的 10 倍以上,這也是高通此次以 Cloud AI 100 加速器跨入市場的關鍵。
若回顧去年底高通發表 Snapdragon 855 時,高通在 Hexagon 690 DSP 中首度導入矢量加速器建構第四代 AIE 平台,也因此大幅提升 Snapdragon 855 的 AI 性能;而 Cloud AI 100 即是一款針對業界廣泛 AI 框架、並用於雲 AI 基處設施的硬體加速器。
透過在行動裝置上的經驗,高通與多個雲 AI 服務商、框架與 AI 技術商有著長期的合作,高通指出 Cloud AI 100 較競品達 50 倍的峰值性能,並大幅降低 AI 基礎建設的功耗,為業界帶來更具效率的雲 AI 服務。高通希望能藉由終端的 AI 經驗,搶佔雲 AI 服務市場。
1 則回應