NVIDIA推出NVIDIA NeMo Retirever企業級生成式AI微服務,為聊天機器人、Copilot與摘要工具提供商機

2023.11.29 04:32PM

NVIDIA宣布擴展NVIDIA NeMo系列框架工具,推出NVIDIA NeMo Retirever企業級生成式AI微服務,使企業可將客製化大型語言模型與企業資料連接,旨在為聊天機器人、Copilot與摘要工具提供商機。NVIDIA NeMo Retirever將經過NVIDIA最佳化的檢索增強生成功能添加至人工智慧代工服務中。目前開發者已能夠率先註冊與體驗NVIDIA NeMo Retirever,對於需要最大化推論效能的開發者,可在搭載TensorRT-LLM軟體的NVIDIA GH200 Superchip的系統執行模型。

並且作為NVIDIA AI Enterprise軟體平台的一部分,開發者企業可透過AWS Marketplace中獲得,包括Cadence、Dropbox、SAP、ServiceNow等皆率先取得NVIDIA NeMo Retirever並投入應用。EDA領導廠商Candance透過NVIDIA NeMo Retirever提供檢索增強生成功能,提供於工業電子設計的生成式AI應用。

▲相較開源RAG方案,NVIDIA NeMo Retirever能使企業在安全、可靠且能夠獲得資源的環境打造客製化模型與相關服務

NVIDIA NeMo Retirever的目的是提供企業建置、客製化與部署生成式AI模型,能夠協助企業透過企業級RAG(檢索增強生成)功能使生成式AI能以企業資料提供客製化功能,相較開源RAG工具,NVIDIA NeMo Retirever利用商業上可執行的模型、API穩定性與安全性修補程式與企業支援提供生產就緒的生成式AI。

NVIDIA透過最佳化演算法為Retriever的嵌入式模型提供高精度的結果,藉由最佳化嵌入模型捕捉單字的關聯,使大型語言模型能處理與分析文字資料。企業透過NeMo Retirever可將大型語言模型連接到多個來源與知識庫,使用者能藉此輕鬆與資料進行互動,並透過簡單的對話獲取精準、即時的答案,且基於NeMo Retirever的應用程式可使企業在高度安全環境取得如文字、PDF、圖片與影像等多元內容。

相關消息

科技應用
EVOX《對話式 AI 白皮書》:掌握 AI 商務溝通新趨勢
癮特務
3 天前
即拍即印普普風概念印章,製造屬於自己的圖像
annti wang
15 年前
開箱評測
被評價為「每步都非常舒服」的恢復型拖鞋 2種熱賣的日常款比較
Gizmodo Japan
1 天前
文化創意
國家鐵道博物館第一階段開放 免費展區即有豐富內容、柴電工廠吸收新知
Chevelle.fu
19 個小時前
汽車未來
全新改款 BMW iX 豪華純電旗艦休旅強勢上市!「THE NEW BMW iX」現場直擊,亮點分享一次了解!
癮特務
10 天前
開箱評測
這麼薄卻可6裝置充電、總輸出達130W 這款Anker充電器規格簡直是拼命了
Gizmodo Japan
20 個小時前
開箱評測
可以與行李箱組合的三合一背包 我無法割捨Patagonia的理由
Gizmodo Japan
19 個小時前
產業消息
聯發科2025Q2手機營收佔52%預期旗艦天璣年內創造30億美金營收 首款2nm晶片維持9月設計定案
Chevelle.fu
1 天前
《奇妙之旅》家族競技展開 熱鬪場內容介紹
皮耶哈
15 年前