VMWare 於 2023 年 VMware Explore 大會宣布與 NVIDIA 合作,針對當前火熱生成式 AI 成立 VMWare Private AI Foundation with NVIDIA ,使企業能在安全、確保資料隱私的前提高效率且具擴充性於 VMWare 的平台使用完整的 NVIDIA AI Enterprise 資源與技術,同時企業可透過直連 GPU 或虛擬 GPU ( vGPU )進行擴展,使用最多 16 個 vGPU 進行 AI 模型訓練。
VMWare 預計於 2024 年初與 NVIDIA 共同推出 VMWare Private AI Foundation with NVIDIA

NVIDIA 與 VMWare 雙方深度合作已長達 10 年,也是推動產業 GPU 虛擬化技術的重要推手,此次雙方再度於生成式 AI 領域攜手,協助各領域企業能夠加速導入 AI 。當前企業在導入 AI 會有三大挑戰,包括成本效益、安全風險與性能, VMWare Private AI Foundation with NVIDIA 即是建構在 NVDIA 硬體、 NVIDIA AI Enterprise 軟體與 VMWare VMWare Cloud Foundation 技術上,為企業帶來符合成本效益、高安全以及可針對規模進行效能擴充的解決方案。



雙方的合作基於 NVIDIA 的 L40S 與 H100 兩大系列的 GPU 與 NVIDIA ConnectX-7 、 Bluefield-3 網路平台等硬體,以建構在 NVLink 、 NVSwitch 連接技術提供 GPU 的可擴展性,結合性能優惠的 NVMe 儲存與支援 RDMA 的 GPU Direct 儲存技術的 VMWare vSAN Express 儲存架構,同時客戶能在擁有資料的任何地方輕鬆執行 AI 服務,並採取保護資料隱私與安全訪問的架構;同時企業對模型與執行的地點擁有廣泛的選擇,舉凡自 NVDIA NeMo 到 Llama 2 與更高版本的大型語言模型,以及未來可能涵蓋公有雲與服務供應商的方案,此外借助 vSphere 深度學習 VM 鏡像與影像庫提供穩定的一站式解決方案,並藉此支援快速原型製作功能。