產業消息 AMD 深度學習 加速器 NVIDIA A100 Instinct MI200 大型語言模型 LLM MosaicML 結合 PyTorch 2.0 與 ROCm 5.4 的 AMD Instinct MI250 已在大型語言模型逐漸追上 NVIDIA A100 受到 NVIDIA 先期投入市場的軟硬體優勢， AMD 的 Instinct MI200 加速器系列雖獲得美國橡樹嶺實驗室新一代超級電腦 Frontier 採用，但市場討論度則仍較 NVIDIA 來的少；不過 AMD 也正努力的持續自軟體與硬體兩方面強化，根據 MosaicML 公布的部落格文章， AMD 的 Instinct 250 在 PyTorch 2.0 與 ROCm 5.4 的雙重加持下，已有著趨近 NVDIA A100 的效能，同時不須針對 AMD Instinct 修改代碼即可進行大型語言模型 LLM 訓練。 MosaicML 的官方部落客表示其軟體 MosaicML 可為 NV Chevelle.fu 2 個月前
產業消息 CPU gpu 超級電腦 NVIDIA A100 加速運算 NERSC 美國能源研究科學運算中心以 Perlmutter 超算系統於進行實證，僅使用 GPU 能較 CPU 提升 5 倍能源效率、 9.8 倍天氣預報性能 美國國家能源研究科學運算中心 NERSC 為美國能源局開放科學主要機構，並 2021 年宣布導入全球最高效能的 AI HPC 系統 Perlmutter ，該套系統旨在探索科學研究，搭載 6,000 個 NVIDIA A100 GPU ，可實現 4 exaflops 的混合精度 AI 算力； NERSC 近期透過 Permutter 系統比較純 CPU 節點與透過 GPU 節點的加速運算在四項主要高效能運算與 AI 應用程式的執行結果，透過 NVIDIA A100 加速時，能源效率平均提高 5 倍、同時天氣預報應用程式性能提升 9.8 倍，意味著在一套具備 4 張 A100 的伺服器， NER Chevelle.fu 4 個月前
產業消息 nvidia AI NVIDIA A100 加速運算 NVIDIA H100 NVIDIA 企業運算主管指稱 NVIDIA 運算級硬體僅花 2 成時間，其餘 8 成時間專注在演算法等軟體領域 NVIDIA 在加速運算與 AI 的世代引領風騷，其硬體效能表現也成為許多競爭對手、新創公司的比較基準，同時採用 NVIDIA 的系統夥伴私底下也希冀能夠打造取代 NVIDIA 的自主研發硬體，不過截至目前為止仍難以阻止 NVIDIA 在加速運算與 AI 的領先情形； NVIDIA 當前的領先不光只是硬體技術，同時也是軟體工程的結晶，根據 NVIDIA 企業運算主管 Manuvir Das 在一場 FUTURE COMPUTE 的活動聲稱， NVIDIA 在硬體與軟體的時間比重約為 20% : 80% ， NVIDIA 花了更多的時間在研究演算法以及探索其硬體的可能性。 "At NV Chevelle.fu 4 個月前
產業消息 intel gaudi NVIDIA A100 GPT-3 ChatGPT 生成式AI DALL-E BLOOMZ Intel 在英特爾資料中心及 AI 投資者網路研討會前夕公布 Intel 如何應對生成式 AI ，強調持續推動 AI 民主化與開放式生態系 Intel 將於台灣時間 3 月 29 日深夜 11 點 30 分舉辦英特爾資料中心及 AI 投資者網路研討會，而在活動開始前夕， Intel 搶先公布一則生成式 AI 的內容，說明 Intel 如何應對生成式 AI 的運算與永續效能挑戰，同時也允諾持續推動 AI 民主化與支持開放生態系的願景。 intel 也多次強調相較 NVIDIA 的 A100 加速器， Intel 的 Gaudi 系列加速器更具能源效益與性價比。 具有模仿人類產生內容的生成式 AI 將會改變人類的生活型態，同時也為資料中心帶來 AI 運算的挑戰； Intel 強調在相關領域投入大量的資源與資金，希冀未來每個使用者都能輕 Chevelle.fu 5 個月前
產業消息 NVIDIA GTC nvidia gpu AI Ampere Hopper NVIDIA A100 NVIDIA DGX NVIDIA H100 DGX Cloud GTC 2023 ： NVIDIA 攜手雲服務商推出 NVIDIA DGX Cloud ，使企業能藉瀏覽器取得超算級的 AI 運算效能 NVIDIA 在 GTC 宣布與多家雲服務供應商合作，推出 NVIDIA DGX Cloud ，使得企業不需採購與擁有伺服器，即可透過雲服務供應商合作託管的 DGX Cloud 基礎設施，透過瀏覽器取得超算電腦級的 AI 運算效能。 NVIDIA DGX Cloud 將透過多個雲端服務供應商提供，微軟 Azure 預計於下一季起託管 DGX Cloud 服務，包括 Google Cloud 等業者也將陸續開始供應服務， DGX Cloud 執行個體價格為每個執行個體每月 36,999 美金起。每個 DGX Cloud 執行個體皆有 8 個 NVIDIA H100 或 NVIDIA A100 8 Chevelle.fu 6 個月前
產業消息 nvidia hpc AI NVIDIA Hopper NVIDIA A100 NVIDIA Ampere MLPerf NVIDIA Hopper H100 GPU 樹立 AI 訓練新指標， NVIDIA A100 借助軟體更新效能持續增長 NVIDIA 在 2022 年 9 月首度公開新一代代號 Hopper 的 NVIDIA H100 Tensor GPU 在 MLPerf 推論基準測試的效能，刷新當時的 MLPerf 效能紀錄；如今 NVDIA 再次公布 NVIDIA H100 在產業組織的人工智慧訓練最新測試成績，創下處理企業 AI 負載的新紀錄，大幅領先競爭對手產品，顯見 NVIDIA H100 是當前對建構與部署最先進 AI 並追求極致效能的用戶的最佳選擇；然而縱使是問世兩年的 NVDIA A100 ，借助持續的軟體升級， NVIDIA A100 Tensor GPU 仍打破去年所公布的成績。 ▲即便 NVIDIA H Chevelle.fu 10 個月前
產業消息 nvidia gpu AI oracle NVIDIA A100 NVIDIA Clara 加速運算 NVIDIA H100 Oracle 攜手 NVIDIA 加速企業導入 AI 技術，於 Oracle Cloud Infrastructure 導入 NVIDIA AI 軟硬體技術 Oracle 與 NVIDIA 雙方宣布擴大長期合作關係，並共同進行一項為期數年的長期合作計畫，雙方將結合 NVIDIA AI 軟硬體技術與 Oracle 的雲服務平台，將包括 GPU 、系統與軟體等 NVIDIA 加速運算堆疊導入 Oracle Cloud Infrastruture ( OCI )，協助企業客戶加速導入 AI 技術。 OCI 將大量導入超過數萬張的 NVIDIA GPU 提升處理量，包括 NVIDIA A100 以及即將推出的 NVIDIA H100 ，將涵蓋 OCI 的裸機、欉集網路與儲存服務的 AI 雲端基礎設施，為企業提供廣費且容易取得的產品組合，利於進行大規模 AI Chevelle.fu 11 個月前
產業消息 nvidia NVIDIA Hopper NVIDIA A100 Jetson AGX Orin NVIDIA H100 NVIDIA H100 以較 NVIDIA A100 達 4.5 倍效能創下 MLPerf 世界紀錄， Jetson AGX Orin 仍為邊際運算之霸 於 2020 年問世的 NVIDIA A100 仍是包括 Intel 與 AMD 在內的加速運算最大假想敵，皆作為 Intel 與 AMD 公布新一代加速產品時的首要目標，然而 NVIDIA 在今年 GTC 公布新一代 Hopper 架構的 NVIDIA H100 Tensor Core GPU ，也令人好奇 NVIDIA H100 在實際情境是否如同 NVIDIA 所敘述般的出色； NVIDIA 今日首度公布 NVIDIA H100 在人工智慧測試基準 MLPefr 的成績，除了再度創下世界紀錄外，更較 NVIDIA A100 高出 4.5 倍性能。 NVIDIA H100 預計在 2022 Chevelle.fu 1 年前
產業消息 AMD nvidia 中美貿易戰 NVIDIA A100 Instinct MI200 烏俄戰爭 NVIDIA H100 美國政府出手阻止 NVIDIA 與 AMD 向中國與俄羅斯出口超算級 GPU 隨著美國與中國關係緊張，以及俄羅斯入侵烏克蘭引發戰爭，路透社證實美國政府正對 NVIDIA 與 AMD 提出超算級 GPU 禁令，要求 NVIDIA 與 AMD 不得將超算級 GPU 產品輸出到中國與俄羅斯，其中包括 NVIDIA 的 A100 與即將問世的 H100 ，而 AMD 受到影響的是新一代的 Instinct MI200 系列；在禁令曝光後， NVIDIA 與 AMD 的股價也分別下跌 6.6% 與 3.7% 。補充： NVIDIA 後續取得美國政府特許，取得一年的緩衝時間。 隨著以 GPU 驅動的 AI HPC 技術使全球超級電腦需求加劇，中國與美國在超級電腦計算力的戰爭也越演越 Chevelle.fu 1 年前
產業消息 nvidia gpu quantum 量子運算 NVIDIA A100 QODA NVIDIA 公布量子與經典混合運算平台 QODA ，將量子運算投入 AI 、超算、健康與金融研究 NVIDIA 宣布推出量子與經典混合運算平台 Quantum Optimized Device Architecture ( QODA )，只在打造精簡的量子與經典程式編寫模型，並提供開放、統一的環境，使研究者能更輕鬆投入量子運算開發與研究，並享受容易開發的量子與經典混合運算技術； QODA 可在科學超級運算中心與具備 GPU 加速的 NVIDIA DGX 系統、公有雲環境執行，借助 QODA 即可在 GPU 加速的超算系統使用 NVIDCIA Quantum 模擬完整量子應用程式，並使量子運算與既有經典運算之應用程式結合，希冀藉兩者的混合運算於 AI 、 HPC 、健康、金融與學術研究帶來突 Chevelle.fu 1 年前
