強化物聯網與 AI 技術結合, Arm 發表針對嵌入式的 Cortex-M55 微處理器架構與 Ethos-U55 NPU 加速架構

2020.02.11 12:48AM
558

目前 Arm 已經逐步在行動運算與類 PC 層級運算提供 Ethos NPU 的架構授權,不過除了行動裝置外,物聯網所採用的嵌入式平台也對 AI 技術有強烈的需求,而 Arm 也藉由發表新一代嵌入式微處理器 Cortex-M55 之際,一併發表針對嵌入式領域的 NPU 架構 Ethos-U55 ,希望透過新世代 CPU 與針對低功耗的 NPU 的授權組合,促進物聯網設備導入 AI 技術, Arm 強調藉由這兩項授權架構組合,能為嵌入式設備帶來高達 480 倍的機器學習性能。 Arm 預計在 2021 年可在市場看到採用此兩項 IP 授權組合的微處理器。

Cortex-M55 是 Arm 特別針對嵌入式平台 AI 需求所開發的微處理器架構,而 Ethos-U55 則是針對 Cortex-M55 特性所搭配的 NPU 加速器架構這兩項授權 IP 是為了將已經廣泛用於行動裝置的高效率 AI 架構與技術帶到嵌入式平台領域,使嵌入式平台不須為了 AI 而外掛 DSP ,能夠藉由針對 AI 最佳化的 CPU 架構與專門用於 AI 推論的 NPU 達到更好的效能。同時,這兩項授權 IP 也已經取得與 Google 的合作,可支援 TensorFlow Lite 。

▲ Cortex-M55 與 Ethos-U55 能夠為當前嵌入式與物聯網領域帶來遠高於現階段搭配 DSP 的 AI 推論效能

Cortex-M55 最大的特色是採用 Armv8.1-M 指令集為基礎,並首度針對機器學習需求整合 Helium 矢量加速技術, Helium 源自 Cortex-A 的 Neon ,不過針對嵌入式低功耗簡化設計,也藉由導入 Helium ,相較前一代 Cortex-M 提升 15 倍的 DSP 性能,也比目前嵌入式設備為了機器學習所搭配的 DSP 高出 5 倍性能。

至於 Ethos-U55 NPU 是 Arm 第一款針對嵌入式平台的 microNPU ,除了針對低功耗環境最佳化以外,採用可彈性擴充的設計,提供自 32 到 256 核的 MAC 引擎,此外為了降低傳輸功耗,也具備模型傳輸壓縮技術,能減少模型對記憶體占用與提升推論執行效率,同時也不因資料壓縮而產生對機器學習的顯著影響;雖然是針對 Cortex-M55 最佳化開發,不仍可搭配 Cortex-M33 、 Cortex-M7 與 Cortex-M7 等嵌入式處理器微架構。

相較 Cortex-M7 ,在用於語音助理設備的情境之下, Cortex-M55 的能源效率可提升 7 倍,若是 Cortex-M55 搭配 Ethos-U55 ,則能源效率大幅提升 25 倍,這意味著能夠加速語意與語音辨識的速度外,也能明顯減少進行 AI 推論的能耗。當然既然是針對嵌入式應用,在安全性方面也是無虞,這兩款架構皆符合 Arm PSA 與提供 Corstone 參考設計,並可配合 Arm TrustZone 使用。

目前宣布導入 Cortex-M55 與 Ethos-U55 的廠商包括 Amazon , Alif Semiconductor ,Bestechnic , Cypress ,Dolby , Google , NXP三星, STMicroelectronics 等。

資料來源

回應 0

0 則回應