NVIDIA推廣EGX邊緣運算應用 降低雲端服務停擺風險

2019.10.24 04:33PM

Netflix為例,若僅向全球市場提供單一伺服器,在全球使用者於相同時間同時連接使用情況下,Netflix為了能讓系統順利維持運作,勢必要持續加大網路傳輸頻寬、伺服器記憶體等資源,但若是將部分運算資源佈署到各個前端節點,不僅能讓協同運算處理效率提升,同時也能相對讓維護成本、風險降低,甚至可以進行更具彈性的資料運算應用。

首圖

此次以佈署更具彈性,甚至可對應各類應用規模的EGX邊緣運算平台為主軸,NVIDIA在此次MWC LA 2019現場也與合作夥伴藉由實際案例詮釋各類EGX邊緣運算平台應用模式。

 

此次強調藉由EGX邊緣運算平台對應各類節點運算需求

 

為什麼要強調邊緣運算應用?

 

之所以強調邊緣運算重要性,其實也是在於傳統雲端運算模式多半從端點直接連接,因此在累積龐大連接裝置數量情況下,反而會讓雲端服務系統負載過大,進而導致雲端系統傳輸延遲,甚至發生當機停擺情況。

 

在後續的雲端雲算架構,除了導入混合雲設計,更進一步採用邊緣運算模式,將各類大量運算規模依照使用情況集中在不同網路節點,讓端點運算需求可透過這些節點進行處理,並且做出即時反應,同時也能依照情況將必須保留數據接續同步至節點後方的雲端系統,進而可完成更具體的協同運算、巨量數據分析等應用。而在這些邊緣運算節點輔助之下,不僅能讓終端運算需求反應加快,更可紓緩雲端系統負載情況。

 

舉例來說,若Netflix僅向全球市場提供單一伺服器,在全球使用者於相同時間同時連接使用情況下,Netflix為了能讓系統順利維持運作,勢必要持續加大網路傳輸頻寬、伺服器記憶體等資源,但若是將部分運算資源佈署到各個前端節點,不僅能讓協同運算處理效率提升,同時也能相對讓維護成本、風險降低,甚至可以進行更具彈性的資料運算應用。

 

類似的網路架構,其實包含VMware、微軟Azure、AWS或Google Cloud都類似設計,主要是將窩樹運算需求分攤到各個前端節點,藉此讓整體網路連結運作更具效率,同時也能減少系統損壞、當機風險。

 

而NVIDIA提出的EGX邊緣運算平台,則是結合小至Jetson Nano運算平台,大到T4等級的GPU加速運算模式,配合先前收購Mellanox所提供網路介面控制器對應更快數據傳輸效率,藉此因應各類邊緣運算佈署需求。

 

※相關連結》

 

以各類案例詮釋邊緣運算應用

 

在此次展示案例中,例如由AiFi提出的小型智慧商店模組化佈建方案,即可透過EGX邊緣運算平台支撐店內攝影機對應的大量影像識別需求,甚至也能進一步串接背後來客數據分析,藉此判斷進入店內的男女性顧客比例、在店內停留位置熱點分佈,甚至對應停留時間與購買物品分析店內擺設是否應該作調整,或是什麼樣的情況容易吸引顧客購買動機。

 

 

其他應用則包含像是深圳碼隆科技打造的物件識別技術,透過電腦視覺分析結帳物品,並且配合秤重快速顯示、計算結帳金額,甚至可做到物件在透明塑膠袋內也能順利辨識,背後雖然也能個別透過Jetson Nano運算平台對應影物件識別效果,但若以大規模商場使用需求的話,其實透過一組EGX邊緣運算平台即可支撐所有運算需求,甚至可以讓建置成本更加精簡。

 

像是目前已經在舊金山、洛杉磯透過Hugo外送機器人提供送餐服務的Postmates,同樣也是藉由在地佈署EGX邊緣運算平台資源,藉此就近串接各個機器人即時傳遞的運作資訊,而不是透過單一雲端服務平台直接連接管理,如此一來將能讓機器人即時狀況更容易被系統監控。

 

藉由物件識別,即可讓超商結帳系統直接判斷商品價格

 

Postmates採用的送餐機器人可以透過EGX邊緣運算平台分攤大規模的大量送餐任務管理

 

應用EGX邊緣運算平台資源,搭配NVIDIA提供的SDK開發工具,其實也能打造不同應用,例如透過單組搭載T4加速卡的EGX邊緣運算平台,並且對應40組監控攝影機,即可配合Metropolis開發工具快速打造即時路況監控系統,讓系統透過數據學習,自動分析不正常車輛行駛模式,同時能透過串接通報系統快速排除異常現象。

 

而透過Cloud XR開發工具,則可藉由EGX邊緣運算平台資源,對應逼真、即時且穩定呈現的擴增實境,甚至虛擬實境影像內容應用。加上NVIDIA日前宣佈與Red Hat、VMware在內廠商合作,將能藉由Kubernetes容器運算方式串接更多應用服務,進而實現更流暢、高效率的邊緣運算應用成效。

 

藉由Metropolis開發工具與EGX邊緣運算平台資源,將可快速打造即時路況監控系統,並且透過機器學習方式自動找出異常情況

 

透過EGX邊緣運算平台進行加速,配合Cloud XR開發工具,即可以在地運算方式提供快速且穩定的虛擬視覺內容呈現效果

 

另外一個應用,則是NVIDIA本身提出的GeForce Now雲端串流遊戲服務,在近期擴大與全球地區電信業者合作中,藉由EGX邊緣運算平台資源導入,更可讓雲端串流遊戲能以更流暢、反應時間更短,同時也能透過節點分散方式降低系統當機停擺機率。

 

依照NVIDIA說明,邊緣運算將會成為未來雲端服務重要應用模式,而在未來5G網路發展之下,預期將能對應更多元的邊緣運算應用模式。

 

目前與各地區電信業者合作的GeForce Now佈署模式,其實也是EGX邊緣運算平台應用模式之一






 

0 則回應

新奇搞笑
重量瓶隨身背背帶
Twelve
9 個小時前
重量瓶隨身背背帶