Arm將Arm Kleidi計畫擴展至車用,協助汽車產業加速導入特定AI模型

2025.03.13 11:35AM

Arm宣布將目標在加速AI發展的社群與軟體參與計畫Arm Kelidi擴大至車用市場領域,使車用領域的合作夥伴能夠受惠Arm Kelidi,加速特定應用AI模型於車用市場的導入;Arm強調由於汽車產業龐大而複雜的軟體系統導致開發環境相當複雜,同時須符合車規的功能安全與資訊安全,且需要在較長的周期持續提供維護,隨著AI技術對汽車產業產生顯著需求,需要一套自雲端至車端的軟體發展與驗證基礎設施將雲開發應用無縫部署到車輛,借助Arm Kelidi,車輛產業能更容易將AI技術導入平台。

▲Arm使Arm Kelidi擴大支援至車輛產業,提供一套容易導入、經過最佳化的雲到端AI軟體發展與驗證基礎設施

Arm將透過合乎車輛產業需求的AE技術與產品結合Arm Kelidi解決車輛產業的痛點,提供涵蓋虛擬平台與基於標準的軟體解決方案,透過SOAFEE(嵌入式邊際裝置可擴展開放架構)加速器車開發週期,使車輛產業的開發人員能利用工具在Arm運算平台釋放效能與加速產品開發及上市;Arm Kleidi已被整合到ExecuTorch、Llama.cpp、MediaPipe與PyTorch等熱門 AI 框架的最新版本中,現在更除了行動裝置、雲端服務、資料中心以外添加對車輛的資源,開發人員只需開始建構應用程式,即可在基於Arm的平台使用。

Arm也列舉合作夥伴在車輛領域應用Arm Kelidi的創新;

如亞馬遜AWS Automotive借助整合KleidiAI 的最新版Llama.cpp開發聊天機器人,聊天機器人的回應時間自3秒縮短至1秒、提高10被的效能,同時不須在底層軟體最佳化,有效縮減約6周的開發時間。

而VicOne則在使車輛識別網路安全的xCarbon車載方案導入由Arm Kelidi最佳化的TinyLlama-1 1B模型,使預填充提示速度翻倍、詞元生成速度提升60%以上,縮短車輛檢測網路安全威脅的回應。

Sonatus AI Technician Builder是能為OEM客戶建構客戶服務代理、回應用戶對車輛詢問並改善駕駛體驗的雲端至邊際平台,Sonatus 將原本執行於GPU的AI Technician Builder透過導入Kleidi最佳化框架,使其能在基於Arm架構的AWS Graviton EC2雲端執行個體執行,使Sonatus客戶可使用更具性價比的服務並有更出色的回應時間,後續也有望將平台服務移植至邊際運算。