慧與科技在HPE Discover大會宣布攜手NVIDIA打造企業級的生成式AI解決方案

2023.11.30 05:38PM

現在NVIDIA作為生成式AI的最強勢硬體供應商,系統整合產業業者無不積極與NVIDIA攜手提供產業所需的解決方案。HPE慧與科技於年度盛事HPE Discover大會宣布擴大與NVIDIA的合作,為企業打造企業級的生成式AI解決方案;強調透過雙方共同設計、預先配置的人工智慧與推論解決方案,使企業能快速自訂基礎設施並使用自有資料訓練模型,同時於邊際到雲端部署基於生成式AI的客製化應用與服務,簡化開發與部署生成式AI基礎架構的複雜性。

雙方合作的全新解決方案預計於2024年第一季正式推出

HPE與NVIDIA雙方合作開發全端、開箱即可用的AI解決方案,包括HPE機器學習開發環境軟體、PE Ezmeral 軟體、HPE ProLiant 運算和HPE Cray 超級電腦以及包括 NVIDIA NeMo 框架的NVIDIA AI Enterprise 軟體套件,透過完整的軟硬體與解決方案組合,使企業能夠迅速且不費力的擁抱可客製化的生成式AI技術。

▲雙方的解決方案基於HPE的機架方案、NVIDIA的加速硬體與網路晶片還有雙方的軟體

當前企業對於生成式AI最大的需求來自基於互動式聊天機器人的應用、如專屬內部使用的資料查找服務,但同時需要以企業所需的資料與特性進行客製化,故結合預訓練模型與企業私有資料的搜尋增強生成(GAG)技術就是做為解決企業需求的關鍵。HPE為此需求提供完善的解決方案,在硬體部分採用搭載NVIDIA L40S GPU、NVIDIA BlueField-3 DPU和NVIDIA Spectrum-X 乙太網路平台的HPE ProLiant Compute DL380a機架架構,在結合16個HPE ProLiant DL380a 伺服器、達64個L40S GPU,能用於執行700億個參數的Llama 2超大型人工智慧模型。

在軟體解決方案則同步提供HPE與NVIDIA的解決方案;HPE所提供的HPE AI軟體包括為生成式AI工作流的HPE機器學習開發環境軟體套建,同時可借助HPE Ezmeral 軟體的全新GPU感知功能,能簡化跨混合雲的AI 工作負載的部署並加速資料準備;而NVIDIA AI Enterprise則提供企業高安全性、可管理性且完整的AI相關工具提供,包括適用於客製化聊天機器人方案的NVIDIA NeMo框架,能夠確保機器人回答不超出企業所需的防護工具、資料管理工具與預訓練模型。

相關消息

科技應用
EVOX《對話式 AI 白皮書》:掌握 AI 商務溝通新趨勢
癮特務
2 天前
即拍即印普普風概念印章,製造屬於自己的圖像
annti wang
15 年前
應用教學
國家鐵道博物館開館 6處古蹟、8大展覽必參觀 藍皮火車預約搭乘方法看這裡
Zero圈圈
21 個小時前
App
三星One UI 8以Android桌面模式取代DeX
Chevelle.fu
3 天前
汽車未來
全新改款 BMW iX 豪華純電旗艦休旅強勢上市!「THE NEW BMW iX」現場直擊,亮點分享一次了解!
癮特務
9 天前
開箱評測
2吋大螢幕、7.9mm羽量級厚度 Garmin Venu X1智慧手錶評測心得
Tandee
20 個小時前
《奇妙之旅》家族競技展開 熱鬪場內容介紹
皮耶哈
15 年前
快訊
伊良可樂台灣首店即將開幕!排不到可以試試這款糖漿,肥仔快樂水自己做。
Shopping guide
1 天前
文化創意
日本Sony宣布LinkBuds Fit與初音未來合作 限量500套加贈壓克力架與AR模型
Chevelle.fu
1 天前