現在在暢談人工智慧,多半還是會聯想到將終端裝置的資料傳送到遠端伺服器後再進行反應,不過在特定的情況這樣的概念是不能夠滿足於當下的應用的,尤其像是考量到頻寬、網路傳輸延遲、個人隱私以及部屬遠端 AI 可行性四點去考量,讓端末具備 AI 能力是相當重要的。
像是在城市中大量部屬監視器,若以即時串流的方式將影像傳送到雲主機雖是目前對於智慧城市的想法,但這樣一來需要使用極大的頻寬,且還有延遲問題,在實際的部屬、尤其是在基礎建設還未完成的新興國家會遭遇相當大的問題,另外像是醫療應用,若需要將資料傳送到遠端伺服器,可能也會有個人隱私方面的隱憂。
而 NVIDIA 的 Jetson 平台,可說是為了實現端末的 AI 能力所設計的高效能嵌入式平台,且由於採用 NVIDIA 的 Cuda 核心,可在人工智慧開發與 NVIDIA 的 Tesla 加速器、 DGX-1 超級電腦擁有人工智慧移植的一致性,可在後端高效能平台加速訓練過程後,把成果移植到 Jetson 平台裝置,而 Jetson 平台所蒐集的資料又可傳送到高效能平台繼續訓練。
稍早 NVIDIA 也宣布兩項可加速基於 Jetson 平台開發人工智慧的計畫,其一是 NVIDIA Robostics 參考設計,另一項則是 Isaac 虛擬機器人訓練平台。 NVIDIA Robostics 參考設計就是提供開發工具與參考設計加速開發者進行終端裝置的開發。
至於 Issac 則是透過虛擬化技術,在具備 NVIDIA 的 GPU 電腦平台下模擬 Jetson 平台,同時搭配基於 Unreal 4 引擎的虛擬環境中,可將機器人設計、預期開發與驗證的機能等透過 Issac 進行虛擬培訓,而在 Isaacc 環境中更可同時進行多個機器人的培訓,並且使培訓成果彼此交換加速培訓,而後再將 Isaac 培訓後的內容移植到實際的 Jetson 機器人中。
另一類終端 AI 的應用則是智慧城市應用,透過在具備機器視覺的終端裝置中加入 AI 能力,能夠使城市監控系統,警察巡邏等更具效率,並藉此增加城市的安全性,同時在稍早所宣布的 Metropolis 也正是針對從雲到端的影像識別技術。