H100 全攻略 (53349)

最新 | 熱門

產業消息中國 nvidia H100 Hopper 中美晶片戰 Blackwell H200 GB200 GB300

美國議員打算提案要求NVIDIA等AI晶片製造商進行晶片售後追蹤，避免透過走私形式流入中國

NVIDIA、AMD與Intel等主要高效能運算晶片公司雖然檯面上受到美國法規禁止輸出高性能AI晶片到中國影響，中國的高階晶片營收占比下滑之外，也在試圖因應美國法規針對中國市場提供量身定製的產品；不過檯面上的情形是如此，但檯面下的走私行為實則波濤洶湧，許多媒體踢爆許多滿血版AI晶片、尤其是NVIDIA的產品正透過走私方式流入中國，NVIDIA則公開聲稱無法追蹤產品售後情況；然而根據路透社報導，美國民主黨議員將在近幾周提案，要求這些AI晶片製造商為晶片進行售後追蹤，試圖遏止晶片走私行為。 ▲美國議員表示將提案追蹤晶片銷往的位置，同時在禁止輸出的國家進行遠端關閉有意提案的議員為美國伊利諾州民主黨

Chevelle.fu

2 個月前

科技應用 xai Elon Musk H100 人工智慧模型

Elon Musk 終止與甲骨文合作 xAI 自建 GPU 叢集訓練 AI

Elon Musk 宣布旗下 xAI 終止與甲骨文擴大租用 GPU 協議，將以自購的 10 萬組 NVIDIA H100 GPU 建構超級電腦，加速 AI 模型訓練。 Elon Musk表示，旗下人工智慧新創公司xAI已經結束與甲骨文擴大現有合作租用GPU協議，將轉向以自有GPU資源訓練其人工智慧模型。在此之前，Elon Musk便透露採購10萬組NVIDIA H100 GPU，藉此建構大規模超級電腦訓練叢集，而此次結束與甲骨文擴大現有合作租用GPU協議，主要希望掌握自主權，藉此加速成為發展更為快速的人工智慧公司。先前xAI已經與甲骨文達成協議，透過甲骨文基礎架構服務提供的2.4萬組NVI

Mash Yang

12 個月前

產業消息 nvidia gpu python H100 大型語言模型 LLM NVIDIA TensorRT-LLM

NVIDIA 以開源的 TensorRT-LLM 強化 NVIDIA H100 GPU 的大型語言推論性能，具經最佳化調整內核、前處理與後處理步驟及多 GPU 、多節點通訊基元

NVIDIA 能在 AI 領域持續引領風騷，不僅只是靠出色的硬體以及在對的時間推出合宜的產品，更重要的是長期在軟體與社群耕耘，並持續與產業夥伴開發各式工具降低進入 AI 領域的門檻； NVIDIA 於 2023 年 9 月宣布將在未來幾週公布開源的 NVIDIA TensorRT-LLM 軟體，強調將使開發者不須深厚的 C++ 或 NVIDIA CUDA 即可嘗試新的大型模型，並提供峰值效能與快速自訂功能。 NVIDIA TensorRT-LLM 已開放早期適用，預計在不久後整合至隸屬 NVIDIA AI Enterprise 的 NVIDA NeMo 框架。TensorRT for Larg

Chevelle.fu

1 年前

產業消息 nvidia AI Azure H100 aws Hopper NVIDIA H100

GTC 2023 ： NVIDIA 與多家合作夥伴公布基於 NVIDIA H100 Tensor Core GPU 的新產品與服務，滿足對生成式 AI 訓練與推論的增長需求

NVIDIA 在 2022 年 GTC 公布新世代的 NVIDIA H100 Tensor Core GPU ，藉由嶄新的架構還有突破性的 Transformer Engine ，能為通用運算與新一代生成式 AI 帶來極大的效能提升，當時多家宣布導入的大型服務商也逐步開始提供基於 NVIDIA H100 Tensor Core GPU 的產品與服務， NVIDIA 在 GTC 2023 也攜手合作夥伴公布多項基於 NVIDIA H100 Tensor Core GPU 的產品與服務。 ▲微軟將開放 H100 實例的非公開預覽版包括 Oracle Cloud Infrastructure 與多

Chevelle.fu

2 年前

產業消息 nvidia H100 Xeon Scalable NVIDIA Hopper Sapphire Rapids PCie 5 NVIDIA H100

超過 60 款以上採用 Intel 第四代 Xeon Scalable 處理器與 NVIDIA Hopper GPU 的加速系統開始出貨，執行效率較傳統資料中心高出 25 倍

隨著代號 Sapphire Rapids 的 Intel 第四代 Xeon Scalable 處理器正式公布， NVIDIA 也同步宣布將有包括 NVIDIA DGX H100 與合作夥伴設計共超過 60 款以上加速系統問世，強調相較傳統資料中心高出 25 倍執行效率，能夠大幅節省能源成本。 ▲ NVIDIA DGX H100 不僅純性能提升，更具備更出色的能源效率 NVIDIA H100 不僅具備創新的硬體架構與達 900GB/s 的 NVLink ，也率先支援 PCIe 5.0 通道，提供更高速的 GPU 與 CPU 的溝通管道，相較前一代架構的加速系統，採用 NVIDIA H100 的系

Chevelle.fu

2 年前

數位科技與產品科科來文機殼 Corsair Showmer 傻瓜狐狸機箱水冷 H60 H100

我也要當海賊王!!! Corsair 在中價位機箱區間的決勝武器 400R

Corsair在比較早期的玩家印象中是記憶體見長的公司後來開始玩了水冷接下來就開始大幅度的擴展其產品種類近期一般使用者最熟悉的應該是電源供應器與機箱這一個區塊電源供應器是狼大的專科...所以想要看詳解可以到他的港都狼穴去查資料狐仔這邊就請大家一起來看看...近期在網路上頗多人討論 Corsair將其定位在中價位端的新產品 400R (拍攝地點是朋友的店內) 外型上頗有設計感兩片側板設計的凸起除了視覺效果外更能有效爭取機箱內的空間...好方便放入更大的散熱器或是整線側板的滑軌用料實在...密閉性也不錯對於噪音的抑制會有一定的功用前置面板上的介面頗為豐富移除面板後可以看到個s

傻瓜狐狸

13 年前

友站推薦