科技應用 nvidia Hopper GTC 2024 NVIDIA GTC 2024 恢復實體活動 可能公布下一款人工智慧與超算加速器 NVIDIA宣布明年的GTC 2024將恢復實體活動，預計於2024年3月18至21日在美國加州舉行，將聚焦下一代人工智慧與超算加速器，包括「Hopper」和「Grace」的後繼產品。 過去幾年因為疫情影響，使得歷年選在春季舉辦的GTC大會調整為線上形式舉辦，但在目前疫情逐漸趨緩，同時各國也都開始恢復商業及觀光活動之後，NVIDIA終於宣布預計在明年舉辦的GTC 2024將以實體活動呈現。 時間則確定選在2024年3月18日至21日，地點則確定回到美國加州聖荷西McEnery會議中心。 若沒意外的話，GTC 2024將會聚焦下一代人工智慧與超算加速器，亦即代號「Hopper」的H100 GPU Mash Yang 1 年前
產業消息 nvidia hpc AI GTC 黃仁勳 Hopper NVIDIA 宣布 GTC 大會將於 2024 年三月份回歸聖荷西舉辦，下一代 AI 超算加速器 Hopper-Next 為焦點 NVIDIA 在 Covid-19 期間將年度盛會 GTC 改為線上舉辦，原本有意在 2022 年恢復實體活動，然而 2021 年底至 2022 年期間的情況使 NVIDIA 不得不更改原訂計畫，就連 GTC 2023 都早早就宣布採線上模式；不過隨著全球 COVID-19 疫情趨緩且走入常態化， NVIDIA 預告 GTC 2024 將回歸熟悉的聖荷西，預計於 2024 年的 3 月 18 日至 3 月 21 日期間於聖荷西會議中心舉行。 ▲ NVIDIA 預計在 2024 年公布 Hopper 的後繼產品 至於 2024 年 NVIDIA 的重點也早已揭露，黃仁勳在 2023 Comput Chevelle.fu 1 年前
產業消息 中國 intel nvidia AI 加速器 Habana Gaudi2 Intel 在中國推出 Habana Gaudi2 加速器，希望藉晶片禁令之際搶食 NVIDIA 原本的市場 雖然中國是 AMD 、Intel 與 NVIDIA 三家美國晶片公司的重要獲利市場，然而隨著中美貿易站延伸而來的晶片禁令也使三大公司受到嚴重的影響；不過上有政策下有對策，像是 NVIDIA 就透過效能限制的方式為中國市場提供 A800 與 H800 加速器，然而效能閹割、價格同樣不便宜之餘還有漫長的交貨期，現在 Intel 則在中國宣布為中國市場導入 Habana Gaudi2 加速器，同時也獲得中國多家主要 AI 伺服器品牌的採納。 ▲由於 NVIDIA GPU 加速器交期漫長、價格昂貴加上中國版效能受限，對 Intel 的 Habana Gaudi2 是機會 雖然 Intel 近期多次宣傳 Chevelle.fu 1 年前
產業消息 AMD apu 加速器 大型語言模型 生成式AI LLM Instinct MI300X Instinct MI300A AMD 正式公布 Instinct MI300A 資料中心級 APU 與針對生成式 AI 的 Instinct MI300X 加速器，皆為小晶片架構與 HBM3 記憶體 AMD 在 2023 年 6 月中資料中心發表會的重頭戲，即是宣布全新的 Instinct 300 系列加速器產品，除了已於 CES 預告的首款資料中心級 APU 產品 Instinct MI300A 以外，還有鎖定生成式 AI 需求、高達 192GB HBM3 記憶體的 Instinct MI300X 加速器； Instinct MI300A 與 Instinct MI300X 皆採用小晶片設計，混合 5nm 與 6nm 製程晶粒。以產品特質而言， Instinct MI300A 與 Instinct MI300X 頗有與 NVIDIA 的 Grace Hopper Superchip 與 Chevelle.fu 1 年前
科技應用 AMD intel VPU 加速器 人工智慧運算 David McAfee AMD 處理器整合 AI 加速器將與微軟合作 異構大小核設計尚未確定 AMD全球副總裁David McAfee於Computex 2023中表示，整合AI加速器的處理器產品是基於與微軟的深度合作，而未來的軟體開發者可以自選使用AMD的Ryzen AI或Intel的VPU。對於大小核心異構設計，他表示內部尚未有具體想法。 針對今年初到近期為止推出的處理器產品設計，AMD全球副總裁暨客戶端通路業務總經理David McAfee在此次Computex 2023受訪時表示，在處理器內整合AI加速器是為了推動更大運算效能，但主要還是基於與微軟合作設計，與Intel在接下來的處理器產品加入VPU設計是相同作法，因此不會影響開發者未來軟體設計。 David McAfee表示， Mash Yang 1 年前
科技應用 亞馬遜 aws 雲端平台 亞馬遜 AWS 推出生成式人工智慧新創加速器 協助技術發展和吸引投資機會 亞馬遜AWS雲端平台推出生成式人工智慧新創加速器計畫，鼓勵所有新創業者申請，但要求至少準備一項足以吸引投資機會的生成式人工智慧技術，並在4月17日前報名。 亞馬遜稍早透過其AWS雲端平台服務推出生成式人工智慧新創加速器計畫，將以為期10周時間協助新創業者推動其生成式人工智慧技術發展，並且吸引潛在投資機會。 此加速器計畫將提供AWS雲端平台技術，以及包含指導師資、技術專家與技術交流資源，並且透過10周時間協助強化其生成式人工智慧技術成長。 亞馬遜表示，此項加速器計畫將開放所有新創業者申請，但建議至少準備一項足以吸引潛在投資機會的生成式人工智慧技術，並且在4月17日以前完成報名，而應用領域則沒有特 Mash Yang 2 年前
科技應用 Google tpu Google 強調第四代 TPU 加速器將驅動超過 90% 的 A I訓練 並暗示新一代加速器即將推出 Google 第四代TPU加速器相比第三代在深度學習效能上提高10倍以上，降低2-3倍能耗，並在數據中心運作過程中減少高達20倍以上的二氧化碳排放量。 Google在2021年的Google I/O宣布推出第四代TPU加速器，並且在2022年宣布以第四代TPU加速器建構最大規模機器學習中樞，更強調以90%無碳排放能源運作，稍早更強調第四代TPU加速器將能驅動旗下超過90%的人工智慧訓練，甚至更暗示接下來將推出新一代TPU加速器。 在稍早公布消息，Google表示相比第三代TPU加速器，第四代TPU加速器讓深度學習效能提高達10倍以上，並且在現行深度學習DSA演算過程約可降低2-3倍能耗，更可在 Mash Yang 2 年前
產業消息 CES消費性電子展 AMD AI 資料中心 apu 加速器 Instinct MI300 3D 封裝 CES 2023 ： AMD 公布首款運算級 APU 產品 Instinct MI300 細節，藉 3D 封裝結合 24 核 Zen 4 CPU 、 CDNA 3 加速器與 128GB HBM3 記憶體 AMD 在 2022 年分析師日公布新一代 Instinct MI300 數據中心加速器將採用 APU 型態， AMD 在 2023 CES 主題演講的最後也進一步公布 Instinct MI300 的資訊，並首度展示 Instinct MI300 晶片， AMD 強調 Instinct MI300 將透過 3D 封裝技術整合使用 5nm 與 6nm 製程的晶粒。 AMD Instinct MI300 預計在 2023 年內問世 ▲ Instinct MI300 將 CPU 、加速器與 HBM3 記憶體透過 3D 封裝於單一處理器 Instinct MI300 是 AMD 首款資料中心級的 A Chevelle.fu 2 年前
產業消息 CES消費性電子展 AI 基礎設施 邊際運算 推論加速器 AMD ALVEO V70 CES 2023 ： AMD 公布首款 AI 基礎設施加速器 ALVEO V70 ，僅 75W 可達 400 TOPS AI 算力 AMD 在 CES 宣布於 Ryzen 7040 APU 導入 Ryzen AI 加速架構的同時，也宣布針對首款 AI 基礎設施加速器產品 AMD ALVEO V70 ； AMD ALVEO V70 是一款鎖定自雲到端 AI 基礎設施的加速器產品，為高效率 AI 推論而生，將與 NVIDIA T4 進行競爭。 AMD ALVEO 預計將於 2023 年春季正式推出 ▲強調 ALVEO V70 比 NVIDIA T4 在各式應用高出 70% 效能 AMD ALVEO V70 採用稱為 XDNA 的 AI 引擎架構，可提供高達 400 TOPS 的 AI 算力，但僅 75W TDP ，並採用 PC Chevelle.fu 2 年前
產業消息 CXL CXL 2.0 CXL 3.0 設計規範公布 強化 CPU 與其他加速器溝通效率、加大數據傳輸速率 CXL 3.0設計規範將數據傳輸速率提升至64 GT/s，將是當前CXL 2.0規範的2倍以上，同時向下相容CXL 2.0、CXL 1.1與CXL 1.0設計規範。 併入OpenCAPI標準之後，CXL (Compute Express Link)聯盟稍早對外公布3.0版本設計規範，主要擴展架構設計與數據傳輸管理能力，並且強化CPU與其他加速器溝通連動效率。 CXL聯盟總裁Siamak Tavallaei表示，CXL技術將持續協助推動現代化數據中心所需異構與可擴展組合設計，藉由提高運算效能表現，使人工智慧、機器學習等應用可以透過更高密集工作負載完成。 而此次公布的CXL 3.0設計規範，則是增 Mash Yang 2 年前
