產業消息 nvidia AI 伺服器 聊天機器人 HPE 生成式AI NVIDIA NeMo Llama 2 NVIDIA L40S 慧與科技在HPE Discover大會宣布攜手NVIDIA打造企業級的生成式AI解決方案 現在NVIDIA作為生成式AI的最強勢硬體供應商，系統整合產業業者無不積極與NVIDIA攜手提供產業所需的解決方案。HPE慧與科技於年度盛事HPE Discover大會宣布擴大與NVIDIA的合作，為企業打造企業級的生成式AI解決方案；強調透過雙方共同設計、預先配置的人工智慧與推論解決方案，使企業能快速自訂基礎設施並使用自有資料訓練模型，同時於邊際到雲端部署基於生成式AI的客製化應用與服務，簡化開發與部署生成式AI基礎架構的複雜性。 雙方合作的全新解決方案預計於2024年第一季正式推出 HPE與NVIDIA雙方合作開發全端、開箱即可用的AI解決方案，包括HPE機器學習開發環境軟體、PE Ezm Chevelle.fu 1 年前
產業消息 企業 大型語言模型 NVIDIA NeMo NVIDIA推出NVIDIA NeMo Retirever企業級生成式AI微服務，為聊天機器人、Copilot與摘要工具提供商機 NVIDIA宣布擴展NVIDIA NeMo系列框架工具，推出NVIDIA NeMo Retirever企業級生成式AI微服務，使企業可將客製化大型語言模型與企業資料連接，旨在為聊天機器人、Copilot與摘要工具提供商機。NVIDIA NeMo Retirever將經過NVIDIA最佳化的檢索增強生成功能添加至人工智慧代工服務中。目前開發者已能夠率先註冊與體驗NVIDIA NeMo Retirever，對於需要最大化推論效能的開發者，可在搭載TensorRT-LLM軟體的NVIDIA GH200 Superchip的系統執行模型。 並且作為NVIDIA AI Enterprise軟體平台的一部 Chevelle.fu 1 年前
產業消息 gpu amazon aws NVIDIA NeMo NVIDIA的NVIDIA NeMo框架、GPU成為亞馬遜Amazon Titan Foundation訓練大型語言模型的幕後功臣 雖然許多雲端服務公司皆積極打造為旗下服務與技術最佳化的自研晶片，然而從提供服務與進行人工智慧訓練的領域，仍為自硬體、軟體至服務等完善布局的NVIDIA的天下；Amazon Web Service(AWS)的科學家與開發者為開發生成式AI服務Amazon Bedock的基礎模型Amzon Titan，即攜手NVIDIA，並以NVIDIA的GPU結合AWS的EFA(Elastic Fabric Adaptor)高速互聯架構作為基礎硬體設施，搭配NVIDIA NeMo框架進行開發。 ▲NVIDIA NeMo不僅作為建構、客製化與執行大型語言模型框架，又能透過平行技術串接海量GPU進行大規模且高效能的 Chevelle.fu 1 年前
產業消息 nvidia amazon AI aws Grace Hopper SuperChip 大型語言模型 生成式AI LLM GH200 H200 亞馬遜AWS率先導入NVIDIA Grace Hopper Superchip與Ultra Cluster可擴展雲端超級電腦，為生成式AI提供強大的雲運算基礎架構、軟體與服務 Amazon Web Service/AWS於自家年度活動AWS re:Invent大會宣布攜手NVIDIA導入多項NVIDIA的創新硬體、技術與服務，率先成為首家導入NVIDIA Grace Hopper Superchip與Ultra Cluster可擴展雲端超級電腦的雲服務商，為機器學習與當前火熱的生成式AI提供自硬體、軟體到軟體的全方位解決方案。 AWS宣布將是第一家提供NVIDIA Grace Hopper Superchip的雲端服務商，以達32個節點構成單一個NVIDIA GH200 NVL32執行個體，將高達32個Grace Hopper Superchip成為一個具備20TB Chevelle.fu 1 年前
科技應用 nvidia dropbox Dropbox 與 NVIDIA 合作 透過自動生成式人工智慧提升工作生產力 Dropbox攜手NVIDIA，推動自動生成式人工智慧應用，希望增進數百萬客戶的工作效率及資料組織能力。 Dropbox近期宣布與NVIDIA合作，將透過自動生成式人工智慧推動數百萬名使用Dropbox服務的客戶工作生產力。 雙方將透過客製化自動生成式人工智慧的新應用，擴展Dropbox廣泛應用功能，藉此提高資料搜尋準確性、提供更好的組織方式，並且簡化客戶在雲端內容中的工作流程。 Dropbox採用包含NVIDIA AI Foundation Models、NVIDIA AI Enterprise軟體，以及NVIDIA加速運算在內人工智慧代工服務，藉此強化Dropbox服務內的人工智慧應用體驗 Mash Yang 1 年前
遊戲天堂 漲價 中美貿易戰 GeForce RTX 4090 Radeon RX 7900 XTX 美國的NVIDIA GeForce RTX 4090中國銷售禁令助攻AMD Radeon RX 7900 XTX在中國漲價 美國在2023年11月16日針對中國實施新一波的高效能晶片禁令，除了資料中心、超級電腦級距的晶片以外，也牽連到民生娛樂級的高效能顯示卡：NVIDIA GeForce RTX 4090；也由於NVIDIA GeForce RTX 4090銷售禁令的關係，除了市場上還在流通的庫存與二手GeForce RTX 4090價格飆高以外，也將助長未受禁令影響的AMD RX 7900 XTX在中國的價格、畢竟對中國的消費者暫時也沒有其它替代選擇了。 ▲GeForce RTX 4090當前在中國通路報價遠高於建議售價，但仍是有錢買不到的情況 根據驅動之家報導，GeForce RTX 4090初始建議售價為12 Chevelle.fu 1 年前
產業消息 nvidia Blackwell AI HPC B100 NVIDIA透露2024年的壓軸將是代號B100的AI HPC加速器產品 NVIDIA在SC23特別演講的簡報中確認2024年的重頭戲將會是代號B100的AI HPC級加速器產品，既然稱為B100，也代表就是先前傳聞中致敬知名統計學家David Harold Blackwell的Blackwell架構。 ▲依據示意圖，B100的記憶體性能仍將有顯著的提升 ▲暗示B100在大型語言模型領域的性能將有更顯著的成長 雖然NVIDIA不打算透露太多B100相關資訊，畢竟B100並非此次SC23大會的主角，不過NVIDIA的剪報也明確指出屆時B100搭配的HBM記憶體將有更顯著的性能增長，容量也勢必會有所增長，藉此應對生成式AI、大型語言模型相關應用所需。不過依據NVIDIA Chevelle.fu 1 年前
產業消息 nvidia NVIDIA Hopper HBM3e H200 NVIDIA公佈NVIDIA H200 Tensor Core GPU，搭載頻寬快2.4倍、容量翻倍的HBM3e記憶體 NVIDIA在SC24大會宣布NVIDIA H100的強化版本NVIDIA H200 Tensor Core GPU，核心架構仍基於Hopper，主要在於提升記憶體的頻寬與容量，採用具備4.8TB/s頻寬、141GB的HBM3e記憶體，藉此提升整體算力；NVIDIA H200設計與NVIDIA H100具相容性，系統業者可沿用NVIDIA H100系統設計置換NVIDIA H200。 伺服器製造商與雲端服務業者預計於2024年第二季推出NVIDIA H200的系統與服務 ▲H200的晶片仍為H100，主要差異在於採用更大容量、更高頻寬的HBM3e記憶體 NVIDIA H200是首款配置HBM3 Chevelle.fu 1 年前
產業消息 nvidia 量子運算 Grace Hopper CUDA Quantum NVIDIA以NVIDIA CUDA Quantum模擬技術為量子運算開發者提供所需的運算資源 量子運算被視為能解決探索科學與模擬等問題的下一世代運算方式，不過當前原生量子運算硬體資源取得不易，使得量子科學家須尋求其它的替代方案；雖然NVIDIA還未打算投入量子運算硬體領域，但作為技術前瞻與探索，NVIDIA以其在GPU加速運算的專業提供NVIDIA CUDA Quantum。 來自全球最大化學公司BASF的Michael Kuehn 和 Davide Vodola在SC24大會展示量子演算法如何看到NTA(可應用於包括去除城市廢水中的鐵等有毒金屬化合物)的關鍵屬性，這也是傳統模擬運算所無法洞察的項目；BASF量子運算團隊透過在NVIDIA DGX Cloud以NVIDIA CUDA Q Chevelle.fu 1 年前
產業消息 nvidia 超級電腦 歐盟 Arm Neoverse Grace Hopper SuperChip GH200 JUPITER 歐盟JUPITER超級電腦由2.4萬枚NVIDIA Grace Hopper挹注算力，將應對材料科學、氣候研究、藥物探索等領域 由NVIDIA與歐洲高效能電腦運算聯合倡議（EuroHPC Joint Undertaking）、ParTec、Eviden 和SiPearl共同合作、設置在德國於利希研究中心（Forschungszentrum Jülich）內的JUPITER是歐盟新一代的超級電腦計畫，NVIDIA在SC24峰會公佈JUPITER將由NVIDIA Grace Hopper SuperChip提供動力，將作為氣候與天氣研究、材料科學、藥物發現、工業工程與量子運算等領域加速建立基礎人工智慧模型。 JUPITER系統預計於2024年安裝完成 JUPITER也同時是四個NVIDIA GH200 Grace Chevelle.fu 1 年前
