
Intel 推出 Gaudi 3 人工智慧加速器 宣稱效能優於 NVIDIA H100
Intel 宣稱 Gaudi 3 加速器在訓練大型自然語言模型時,相比 NVIDIA H100 加速器可縮短 50% 訓練時間,而在推論速度方面則提升 30%,推論吞吐量則是提升 50%,推論電力損耗更降低 40%。 在Vision 2024大會上,Intel宣布推出Gaudi 3人工智慧加速器,相比前一代產品在BF16運算約提供4倍人工智慧效能,並且對應1.5倍記憶體傳輸頻寬與2倍網路傳輸頻寬,藉此實現擴充更大規模人工智慧運算,並且加速大型自然語言模型與多模態模型的人工智慧訓練,以及推論運算效率。 英特爾執行副總裁暨資料中心與AI解決方案總經理Justin Hotard表示:「AI市場瞬息萬
1 年前