產業消息 intel gpu AI gaudi 加速器 Falcon Shores Intel下一代GPU加速器Falcon Shores將達1,500W TDP，僅提供液冷型態 Intel的Ponte Vecchio是Intel第一款基於GPU的加速器產品，做為下一世代後繼GPU加速器的Falcon Shores將進一步整合Gaudi產品線，將Gaudi的加速設計進一步整併到GPU加速器內；根據最新的報導指稱，Falcon Shores的TDP將達1,500W，同時僅提供液冷型態。 ▲整合Xe GPU與AI加速的Falcon Shores將作為Gaudi產品線後續的產品 Falcon Shores據稱設計計畫經過多項調整，原本將以結合CPU、GPU與加速器的XPU為目標，不過最終改為純GPU加速器產品，但保有將下一代Xe GPU架構與Gaudi加速器整合的設計；根據I Chevelle.fu 12 個月前
產業消息 ARM gpu AI 高通 Ampere 推論加速器 AmpereOne Ampere攜手高通推出Arm CPU結合推論加速器解決方案，希冀降低產業對GPU的依賴 當前AI硬體產業幾乎處在NVIDIA喊水會結凍的GPU加速時代，許多晶片商預測短時間難以在具備完整生態系與硬體技術領先的模型訓練與高通正面對抗，紛紛把AI技術目標放在邊際設備的AI推論應用；採用Arm指令集自研伺服器晶片的Ampere宣布與高通合作，將旗下處理器與高通Qualcomm Cloud AI 100 Ultra平台結合，旨在提供更具能源效益且減少對GPU依賴的解決方案。 ▲Qualcomm Cloud AI 100 Ultra鎖定推論應用，結合高度能源效率的Ampere處理器能提供一套節能推論系統 Ampere希冀透過與高通的技術聯手，能夠提供更低能耗且高效能的AI推論平台，並顛覆低 Chevelle.fu 12 個月前
產業消息 intel cuda AI 加速器 OpenVINO NVIDIA Hopper NVIDIA H100 生成式AI Gaudi 3 NVIDIA H200 Intel公布主打性能與性價比皆優於NVIDIA H100的Gaudi AI加速器，主打提供業界多元且開放的選擇 NVIDIA以長期投入的獨占Cuda加速技術搭配開源軟體環境最終在對的時間開花結果，成為當前引領AI產業的龍頭，不過包括AMD、Intel與諸多新創競爭對手勢必會希望打破僵局，尤其對過往長期獨霸運算產業的Intel而言，勢必希望能夠重振雄風奪回產業領導地位；Intel在Vision 2024大會公布第三世代的Intel Gaudi AI加速器，劍指NVIDIA Hopper架構(對，比較對象不是下一代的Blackwell)，強調在性能全面領先NVIDIA H100以外，更提供產業多元且開放的選擇。 Gaudi 3預計在2024年第二季向OEM交付通用基板與開放加速器模型(OAM)的業界標準配置 Chevelle.fu 1 年前
科技應用 intel Gaudi 3 Intel 推出 Gaudi 3 人工智慧加速器 宣稱效能優於 NVIDIA H100 Intel 宣稱 Gaudi 3 加速器在訓練大型自然語言模型時，相比 NVIDIA H100 加速器可縮短 50% 訓練時間，而在推論速度方面則提升 30%，推論吞吐量則是提升 50%，推論電力損耗更降低 40%。 在Vision 2024大會上，Intel宣布推出Gaudi 3人工智慧加速器，相比前一代產品在BF16運算約提供4倍人工智慧效能，並且對應1.5倍記憶體傳輸頻寬與2倍網路傳輸頻寬，藉此實現擴充更大規模人工智慧運算，並且加速大型自然語言模型與多模態模型的人工智慧訓練，以及推論運算效率。 英特爾執行副總裁暨資料中心與AI解決方案總經理Justin Hotard表示：「AI市場瞬息萬 Mash Yang 1 年前
產業消息 ul OpenVINO TensorRT Stable Diffusion 生成式AI DirectML UL推出Procyon AI Image Generation測試基準，可對應傳統CPU+GPU與新一代AI加速器的生成式AI性能進行比較 AI是當前的熱門話題，尤其2024年PC產業更積極地把生成式AI視為重要的變革，作為PC與手機測試基準軟體供應商的UL繼在2023年推出針對推論的Procyon AI Inference Benchmarks後，再宣布針對圖像生成式AI的Procyon AI Image Generation，呼應當前生成式AI的影像生成應用需求；UL強調Procyon AI Image Generation提供具一致性、精準且容易理解的工作負載分析，同時支援傳統CPU、GPU的組合與新一代具備獨立AI加速器的硬體，同時能將兩者方式進行比較。 ▲Procyon AI Image Generation可對應多種加 Chevelle.fu 1 年前
產業消息 CPU ARM 微軟 AI 晶圓代工 加速器 IFS Intel 18A 微軟宣布將採用Intel 18A製程生產晶片，Arm架構CPU或AI 加速器都可能是候選 微軟執行長Satya Nadella在Intel IFS晶圓代工部門的Intel Foundry Direct Connect 2024活動透過視訊公布，微軟將使用Intel的18A製程生產晶片，不過並未透露微軟將利用18A製程生產哪一類型的晶片。 ▲由Intel 18A生產的微軟晶片較可能是Arm架構CPU或加速器 Intel 18A製程是Intel執行長Pat Gelsinger上任時的4年5個製程節點的最後一個計劃，依照規畫將在2025年落實；Pat Gelsinger在活動上也公布基於Intel 18A製程、隸屬Xeon E系列的Clearwater Forest計畫，IFS視18A為 Chevelle.fu 1 年前
科技應用 intel AI Pat Gelsinger Gaudi 3 Intel 展示 Gaudi 3 AI 加速器 預言 AI 無所不在的未來 Intel在紐約的活動中展示了新款Gaudi 3 AI加速器，強調未來AI將成為經濟的推動力，並持續發展增強企業運算和AI運算的技術。 在紐約舉辦的「AI無所不在」 (AI Everywhere)活動中，Intel除了宣布推出代號「Meteor Lake」的Core Ultra系列筆電處理器，以及代號「Emerald Rapids」的第5代Xeon Scalable可擴展伺服器處理器，Intel執行長Pat Gelsinger表示接下來人工智慧將會成為全球經濟推動主力，更強調Intel持續開發可強化企業運算與執行人工智慧能力，同時也在此次活動展示新款Gaudi 3人工智慧加速器。 Pat Ge Mash Yang 1 年前
產業消息 AMD NPU Zen 4 生成式AI XDNA Ryzen 8040 AMD公布部分產品線整合Ryzen AI的Ryzen 8040系列筆電處理器，並預告2024年還將推出下一代AI加速器的Strict Point平台 過去幾年AMD多選在CES期間公布消費級筆電處理器，不過或許是由於近期生成式AI熱潮、微軟大力鼓吹系統端執行AI與Intel將於12月中旬公布Core Ultra處理器，AMD搶在12月上旬以AI加速器Instinct MI300為主的發表會率先宣布部分產品具備Ryzen AI的Ryzen 8040系列處理器，終端產品預計在2024年第一季問世，等於整合Ryzen AI的Ryzen 7040系列還沒暖身完畢就有心一代產品問世；同時AMD也預告2024年還將推出代號Strict Point的下一代筆電AI PC平台，預計NPU將升級到XDNA 2，並帶來三倍的AI效能提升。 預計包括Acer、A Chevelle.fu 1 年前
產業消息 qualcomm AI 高通 推論加速器 大型語言模型 高通鎖定生成式AI、大型語言模型公布Qualcomm Cloud AI 100 Ultra雲端AI推論加速器 雖然高通Qualcomm在當今的AI大戰的重心放在擅長的邊際裝置側，不過在SC23活動期間，高通公布了一款可程式化的雲端AI推論加速器新品Qualcomm Cloud AI 100 Ultra，作為因應當前生成式AI與大型語言模型(LLM)世代的需求，強調較前一代產品性能提升4倍，並可透過Qualcomm AI Stack 和Cloud AI SDK連接多個Qualcomm Cloud AI 100 Ultra擴大推論能力。 ▲Qualcomm Cloud AI 100 Ultra是一款鎖定推論使用的加速卡 Qualcomm Cloud AI 100 Ultra是一款具可程式化特質的AI加速器 Chevelle.fu 1 年前
產業消息 nvidia Blackwell AI HPC B100 NVIDIA透露2024年的壓軸將是代號B100的AI HPC加速器產品 NVIDIA在SC23特別演講的簡報中確認2024年的重頭戲將會是代號B100的AI HPC級加速器產品，既然稱為B100，也代表就是先前傳聞中致敬知名統計學家David Harold Blackwell的Blackwell架構。 ▲依據示意圖，B100的記憶體性能仍將有顯著的提升 ▲暗示B100在大型語言模型領域的性能將有更顯著的成長 雖然NVIDIA不打算透露太多B100相關資訊，畢竟B100並非此次SC23大會的主角，不過NVIDIA的剪報也明確指出屆時B100搭配的HBM記憶體將有更顯著的性能增長，容量也勢必會有所增長，藉此應對生成式AI、大型語言模型相關應用所需。不過依據NVIDIA Chevelle.fu 1 年前
