高通為了使開發者更容易發揮Qualcomm AI Engine平台的潛能提供AI應用,宣布推出Snapdragon平台的Qualcomm AI Hub開發工具;高通在微軟2024年Build大會宣布Qualcomm AI Hub將擴展至Snapdragon PC裝置,使Windows PC開發者能利用Qualcomm AI Hub的資源、預先最佳化的AI模型庫進行彈性、客製化且能發揮Snapdragon平台AI加速功能的AI應用。工通也攜手DeepLearning.AI提供線上課程,使開發者能學習裝置中AI與如何為應用程式導入AI,有興趣的開發者可訂閱高通開發者電子報:Qualcomm Developer Network。
▲Qualcomm AI Hub開放開發者BYOM上傳、最佳化與編譯模型,並可在雲端託管環境測試與驗證
Qualcomm AI Hub是作為高通提供開發者取得針對Snapdragon平台AI資源、工具與服務的入口,透過不斷增加且針對Snapdragon最佳化的模型庫使開發者取用,當前已提供超過100個預先最佳化的模型,開發者可在Hugging Face與GitHub取得;此外Qualcomm AI Hub開放開發者「Bring Your Own Model(BYOM)」,可針對Snapdragon與Qualcomm平台上傳、最佳化與編譯模型,並支援PyTorch、TensorFlow、ONNX等主流框架,開發者可在不到5分鐘時間以幾行程式碼在雲端託管環境測試與驗證模型,可加速開發與部署週期。
高通強調2024年包括宏碁、華碩、Dell、HP'聯想、微軟Surface、三星將推出超過20款的Snapdragon X Elite與Snapdragon Plus裝置,Snapdrgaon X系列平台支援廣泛的AI開發工具,並與ONNX Runtime、Hugging Face Optimum深度整合,與對Llama.cpp支援,開發者能在Snapdrgaon X系列平台執行上千個模型,同時兩個平台皆具備同樣的45TOPS NPU算力,不須因應平台算力折衷。