VMWare 攜手 NVIDIA 推出 VMWare Private AI Foundation with NVIDIA ,協助企業在公眾雲環境安全且高效率的使用生成式 AI 技術

2023.08.23 12:30AM

VMWare 於 2023 年 VMware Explore 大會宣布與 NVIDIA 合作,針對當前火熱生成式 AI 成立 VMWare Private AI Foundation with NVIDIA  ,使企業能在安全、確保資料隱私的前提高效率且具擴充性於 VMWare 的平台使用完整的 NVIDIA AI Enterprise 資源與技術,同時企業可透過直連 GPU 或虛擬 GPU ( vGPU )進行擴展,使用最多 16 個 vGPU 進行 AI 模型訓練。

VMWare 預計於 2024 年初與 NVIDIA 共同推出 VMWare Private AI Foundation with NVIDIA

▲目前企業對於導入 AI 面對成本效益、安全風險與性能三大挑戰

NVIDIA 與 VMWare 雙方深度合作已長達 10 年,也是推動產業 GPU 虛擬化技術的重要推手,此次雙方再度於生成式 AI 領域攜手,協助各領域企業能夠加速導入 AI 。當前企業在導入 AI 會有三大挑戰,包括成本效益、安全風險與性能, VMWare Private AI Foundation with NVIDIA 即是建構在 NVDIA 硬體、 NVIDIA AI Enterprise 軟體與 VMWare  VMWare Cloud Foundation 技術上,為企業帶來符合成本效益、高安全以及可針對規模進行效能擴充的解決方案。

▲ VMWare Private AI Foundation 建立在 VMWare 高度安全且可擴充的虛擬化技術與 NVIDIA 的軟硬體技術
▲透過雙方的技術解決企業面對的挑戰
▲簡化企業建構客製化 AI 的程序,同時保有企業資料的安全性

雙方的合作基於 NVIDIA 的 L40S 與 H100 兩大系列的 GPU 與 NVIDIA ConnectX-7 、 Bluefield-3 網路平台等硬體,以建構在 NVLink 、 NVSwitch 連接技術提供 GPU 的可擴展性,結合性能優惠的 NVMe 儲存與支援 RDMA 的 GPU Direct 儲存技術的 VMWare vSAN Express 儲存架構,同時客戶能在擁有資料的任何地方輕鬆執行 AI 服務,並採取保護資料隱私與安全訪問的架構;同時企業對模型與執行的地點擁有廣泛的選擇,舉凡自 NVDIA NeMo 到 Llama 2 與更高版本的大型語言模型,以及未來可能涵蓋公有雲與服務供應商的方案,此外借助 vSphere 深度學習 VM 鏡像與影像庫提供穩定的一站式解決方案,並藉此支援快速原型製作功能。

相關消息

遊戲天堂
FCC電檢照片顯示華碩將推出一黑一白兩款ROG Ally 2電競掌機,增強握柄人體工學、黑色機型可能為Xbox認證機型
Chevelle.fu
1 個月前
在地生活
吉伊卡哇廠商限定圖片外流 日方決定取消台灣訂單
討喜小姐
1 個月前
開箱評測
Cooler Master NCORE 100 Air直立式ITX風冷機殼評測,超小占地面積能容高規格系統的精緻機殼
Chevelle.fu
1 個月前
產業消息
Sony將在5月13日公布Xperia 1 VII,首支預告聚焦Alpha相機技術
Chevelle.fu
1 個月前
開箱評測
不想要耳塞 Sony無線降噪耳機折590元 平價降噪耳罩式耳機可選它
Tandee
1 個月前
產業消息
三星旗下HARMAN收購持有B&W、天龍馬蘭士的Sound United
Chevelle.fu
1 個月前
關於android播放3gp內含AAC無法撥放問題
hanawa
15 年前
人物專訪
GPS導航發明前計程車怎麼找路?以前載客常遇到霸王車、靈異事件?本篇就讓「老司機」親自說給你聽!
丹費特
1 個月前
遊戲天堂
吉伊卡哇袋著走聽見玩家心聲大更新 期待退坑玩家回流
討喜小姐
2 個月前