汽車未來 俥科技 AI 超級電腦 Tesla NVIDIA H100 Tesla 將斥資 3 億美金建構由 1 萬張 NVIDIA H100 建構的自動駕駛技術用 AI 超級電腦 Tesla 是 NVIDIA 車載自動駕駛平台的初期用戶,初期 Tesla 在車輛使用的先進輔助駕駛平台來自 NVIDIA 的 Tegra 系列,但也早早就在車輛量產轉向自主設計的 FSD 平台,不過當前自動駕駛技術仍須高效能的超級電腦系統進行模擬與 AI 模型訓練, Tesla 仍在自有的超級電腦持續採用 NVIDIA 的 AI 加速技術;Tesla 繼 2021 年架設採用 5,760 個 NVIDIA A100 的超級電腦後,將再次斥資 3 億美金建構高達 1 萬張 NVIDIA H100 的自動駕駛技術用超算系統,性能將比現行系統高出五倍,達 340 FP64 PFLOPS 算力。 T Chevelle.fu 2 個月前
產業消息 AI MLPerf NVIDIA H100 ChatGPT 大型語言模型 生成式AI LLM NVIDIA H100 GPU 於 MLPerf 首次亮相即創下生成式 AI 新標竿, CoreWeave 的 H100 GPU 集群在 11 分鐘完成 GPT-3 模型訓練 在 AMD 、 Intel 仍將 AI 性能指標的對照組放在前一世代的 NVIDIA A100 ,新一代的 NVIDIA H100 已經蓄勢待發; NVIDIA 宣布 NVIDIA H100 GPU 在 MLPerf 基準測試的首次亮相即位生成式 AI 樹立全新指標,由雲服務商 CoreWeave 以 3,584 個 NVIDIA H100 構成的大型集群在 11 分鐘內完成基於 GPT-3 大型模型的訓練,顯示 NVIDIA H100 在生成式 AI 的大型語言模型訓練有飛躍性的突破表現。 NVIDIA 預計在 2024 年公布 NVIDIA H100 後繼的 AI HPC 加速 GPU 產 Chevelle.fu 5 個月前
產業消息 nvidia AI 加速器 NVIDIA H100 中國媒體實測 NVIDIA H100 GPU PCIe 版效能, AI 效能輾壓但遊戲缺驅動甚至輸內顯 NVIDIA H100 GPU 是目前市場上 AI 效能最高的 GPU 加速產品,不過撇除 AI 之外它的一般效能到底如何也令人相當好奇;中國媒體極客灣弄來 4 張 NVIDIA H100 PCIe 版本進行實測,從 AI 到娛樂與內容創作進行測試,從結果更令人感受到 NVIDIA H100 並非民生級產品的特性,因為在 AI 效能輾壓的另一面,由於缺乏對應的驅動, NVIDIA H100 遊戲性能甚至不及 AMD 新一代的內顯。 為資料中心設計的被動風冷結構 ▲ NVIDIA H100 PCIe 採用被動風冷,仰賴伺服器統一風道設計排熱 NVIDIA H100 PCIe 是針對 AI 工作站 Chevelle.fu 5 個月前
產業消息 COMPUTEX台北國際電腦展 nvidia gpu Hopper NVIDIA H100 COMPUTEX 2023 : NVIDIA 將於 2024 年公布 Hopper 的後繼架構,實現兩年一度的架構更新 隨著 NVIDIA Hopper GPU 加速產品與 Grace CPU SuperChip 、 Grace Hopper SuperChip 逐步出貨, NVIDIA 除了分享各項計劃以外,也不忘透露部分計畫藍圖,其中黃仁勳在介紹一張運算技術效能的世代革新示意圖時,即直接表明 NVIDIA 預計於 2024 年公布 Hopper 的下一代架構,沒有意外的話,應該會在 2024 年的 GTC 大會公布細節。 ▲ NVIDIA 近年多半以 2 年為周期公布 GPU 架構 NVIDIA 在消費級的 GPU 產品以兩年為週期更新可說是常態,不過相對更為複雜的運算級加速器畢竟推出的時間較晚,且市場不斷 Chevelle.fu 6 個月前
產業消息 nvidia AI NVIDIA A100 加速運算 NVIDIA H100 NVIDIA 企業運算主管指稱 NVIDIA 運算級硬體僅花 2 成時間,其餘 8 成時間專注在演算法等軟體領域 NVIDIA 在加速運算與 AI 的世代引領風騷,其硬體效能表現也成為許多競爭對手、新創公司的比較基準,同時採用 NVIDIA 的系統夥伴私底下也希冀能夠打造取代 NVIDIA 的自主研發硬體,不過截至目前為止仍難以阻止 NVIDIA 在加速運算與 AI 的領先情形; NVIDIA 當前的領先不光只是硬體技術,同時也是軟體工程的結晶,根據 NVIDIA 企業運算主管 Manuvir Das 在一場 FUTURE COMPUTE 的活動聲稱, NVIDIA 在硬體與軟體的時間比重約為 20% : 80% , NVIDIA 花了更多的時間在研究演算法以及探索其硬體的可能性。 "At NV Chevelle.fu 7 個月前
產業消息 nvidia gpu AI MLPerf Jetson AGX Orin NVIDIA H100 NVIDIA L4 採用 Hopper 架構的 NVIDIA H100 與 NVIDIA L4 GPU 再度樹立 MLPerf 基準新高度, NVIDIA H100 藉軟體更新較初登場推論效能提高 54% 於 3 年前推出的 NVIDIA A100 是當前 AI 產業的性能基準指標,其它品牌的 AI 加速產品皆將 NVIDIA A100 視為比較目標,然而至今為止, NVIDIA A100 仍在作為 AI 業界公認標準的 MLPerf 測試項的訓練與推論有著不可動搖的表現;然而現在 AI 產業又要頭痛了,因為 NVIDIA 公布新一代產品 NVIDIA H100 與 NVIDIA L4 在 MLPerf 的表現,將推論性能提升至全新的水準,樹立全新的性能高牆,同時即便是結合最新生成式 AI 趨勢的 MLPerf 3.0 , NVIDIA AI 產品依舊具備壓倒性的領先。 ▲相較去年 9 月初次亮 Chevelle.fu 7 個月前
專家觀點 nvidia gpu AI 加速運算 NVIDIA H100 Grace CPU SuperChip Grace Hopper SuperChip ChatGPT 大型語言模型 LLM NVIDIA 執行長黃仁勳為何會說現在是 AI 的「 iPhone 時刻」, NVIDIA 在這場 AI 戰爭又扮演甚麼角色 NVIDIA 執行長黃仁勳在年度活動 GTC 2023 時,提出現在將是 AI 的「 iPhone 時刻」的論調,對於以 GPU 異構加速運算將 AI 從僅有基本功能發展至現在看似蓬勃發展現況的 NVIDIA ,貌似 AI 的「 iPhone 時刻」早已開始,為何黃仁勳現在再度提出接下來才是 AI 的「 iPhone 時刻」的論點。 所謂的「 iPhone 時刻」指的是如當年在 iPhone 之前早已有智慧手機(如 Nokia Symbian 、 Windows Phone 等),但智慧手機真正奠定現在所認知的特性、功能卻是直到蘋果推出 iPhone 後才有了雛形,同時也帶動智慧手機的積極發展 Chevelle.fu 8 個月前
產業消息 nvidia 虛擬貨幣 挖礦 聊天機器人 Mellanox 加密幣 NVIDIA H100 ChatGPT NVIDIA 技術長指稱加密幣對社會一點用都沒有,還不如把運算資源拿去做聊天機器人 雖然 NVIDIA 靠著幾年前的加密貨幣狠狠賺了一大筆,不過加密貨幣對於 NVIDIA 可能是個矛盾的產業;根據 NVIDIA 技術長 Michael Kagan 接受衛報採訪時指稱,加密幣對於人類社會並沒有創造任何價值,不如將這些算力用於發展 ChatGPT 一類的聊天機器人;附帶一提的是, Michael Kagan 是 Mellanox 的創辦人與技術長,在 Mellanox 被 NVIDIA 收購後, 2020 年開始擔任 NVIDIA 的技術長。 ▲ Michael Kagan 是原 Mellanox 聯合創辦人暨技術長,在公司被 NVIDIA 收購後於 2020 年擔任 NVIDI Chevelle.fu 8 個月前
產業消息 nvidia AI Azure H100 aws Hopper NVIDIA H100 GTC 2023 : NVIDIA 與多家合作夥伴公布基於 NVIDIA H100 Tensor Core GPU 的新產品與服務,滿足對生成式 AI 訓練與推論的增長需求 NVIDIA 在 2022 年 GTC 公布新世代的 NVIDIA H100 Tensor Core GPU ,藉由嶄新的架構還有突破性的 Transformer Engine ,能為通用運算與新一代生成式 AI 帶來極大的效能提升,當時多家宣布導入的大型服務商也逐步開始提供基於 NVIDIA H100 Tensor Core GPU 的產品與服務, NVIDIA 在 GTC 2023 也攜手合作夥伴公布多項基於 NVIDIA H100 Tensor Core GPU 的產品與服務。 ▲微軟將開放 H100 實例的非公開預覽版 包括 Oracle Cloud Infrastructure 與多 Chevelle.fu 8 個月前
產業消息 NVIDIA GTC nvidia gpu AI Ampere Hopper NVIDIA A100 NVIDIA DGX NVIDIA H100 DGX Cloud GTC 2023 : NVIDIA 攜手雲服務商推出 NVIDIA DGX Cloud ,使企業能藉瀏覽器取得超算級的 AI 運算效能 NVIDIA 在 GTC 宣布與多家雲服務供應商合作,推出 NVIDIA DGX Cloud ,使得企業不需採購與擁有伺服器,即可透過雲服務供應商合作託管的 DGX Cloud 基礎設施,透過瀏覽器取得超算電腦級的 AI 運算效能。 NVIDIA DGX Cloud 將透過多個雲端服務供應商提供,微軟 Azure 預計於下一季起託管 DGX Cloud 服務,包括 Google Cloud 等業者也將陸續開始供應服務, DGX Cloud 執行個體價格為每個執行個體每月 36,999 美金起。每個 DGX Cloud 執行個體皆有 8 個 NVIDIA H100 或 NVIDIA A100 8 Chevelle.fu 8 個月前