tpu 全攻略 (107508)

最新 | 熱門

Google 解釋 TPU 打造純為高成本效益加速效能非意圖成為最完美 AI 運算架構

Google 表示自家 TPU 著重成本效益與加速效能，非追求最完美架構，適合人工智慧模型實際應用需求。在Google NEXT』25活動中，Google進一步說明其打造TPU加速元件背後想法，最主要是為了實現更純粹的運算加速，並且在諸多運算模式提供性價比更高的加速效果。 TPU始終鎖定更純粹的加速表現除了TPU，其實Google過去以來就投入諸多客製化處理器設計，例如用於YouTube等服務的影片轉換編碼元件，以及用於Pixel手機等硬體的VPU影像運算元件，另外也包含用於量子運算的Willow，或是針對以客製化微控制器與分層橫向擴展卸載，藉此分散網路封包卸載及安全架構打造的Titani

Mash Yang

3 個月前

科技應用 nvidia tpu Google Cloud 人工智慧運算

Google 因應市場對 AI 強勁需求但不會全面調整雲端基礎架構

Google 表示會因應人工智慧需求持續高漲，但不會全面調整現有雲端基礎設施，將持續優化現有架構應對市場需求。針對此次公布鎖定人工智慧「思考」加速打造、迄今為止性能最高的第7代TPU「Ironwood」，Google Cloud副總裁暨人工智慧及運算基礎架構業務總經歷Mark Lohmeyer在受訪時表示當前的雲端基礎架構雖然會因應人工智慧技術應用需求作調整，但整體上仍會依照市場不同需求提供合適的基礎架構。不會因為人工智慧需求全面改變雲端基礎建設 Mark Lohmeyer指出，雖然此次確實因應人工智慧運算需求加入第7代TPU「Ironwood」設計，標榜可對應42.5 Exaflops算

Mash Yang

3 個月前

科技應用 Google tpu 人工智慧模型 Trillium Ironwood

Google 宣布推出第七代 TPU Ironwood 迄今效能最強專為加速 AI 思考設計

Google 發表第七代 TPU Ironwood，至今性能最強，可加速人工智慧運算，推動 AI 技術發展。去年在Google I/O 2024揭曉、代號「Trillium」的第6代TPU之後，Google在此次Next 』25大會活動上公布代號「Ironwood」、標榜性能最高，同時更針對人工智慧「思考」加速打造的第7代TPU。相較過往設計聚焦在推論加速，Google強調「Ironwood」不僅是歷年推出性能最高，同時也更節省電耗設計的TPU，更可針對人工智慧模型進行「思考」、主動提供見解時進行加速，藉此讓更多人工智慧代理服務能更快執行運作。「Ironwood」以9216組液冷晶片組成

Mash Yang

3 個月前

科技應用 Google tpu 與聯發科合作與台積電合作

Google 傳與聯發科合作開發低成本 TPU 預計 2026 年量產

Google 正與聯發科合作，共同開發一款低成本的 TPU，預計將於 2026 年開始量產。 The Information網站引述台積電與博通消息來源指稱，Google計畫與聯發科合作打造造價成本更低的TPU，預計從2026年開始生產。在此之前，曾有消息指稱Google可能會在2027年以前結束原本與博通之間的TPU設計合作關係。而此次傳出Google可能轉與台積電合作打造造價成本更低的TPU，部分原因與報價低於博通有關。不過，雖然Google可能轉向與台積電合作，但原本與博通之間合作關係可能仍會維持，意味博通必須與台積電拆分Google的TPU訂單。從相關人士取得消息指出，下一款TP

Mash Yang

3 個月前

產業消息 Google gpu tpu 生成式AI Gemma Gemma 3

Google宣布Gemma 3大型語言模型，提供1B至27B參數、足以在單一GPU或TPU提供高效能的表現

Google宣布推出開源大型語言模型Gemma 3，強調是Google截至目前為止最先進、最輕量同時是基於負責任開發的開源模型，並足以在單一GPU或TUP提供出色的大型語言模型表現，支援超過35種語言與能為140種語言提供預訓練；Gemma提供1B、4B、12B與27B四種規模，同時還提供增強圖像應用程式安全性的ShieldGemma 2。 Gemma 3將透過如Hugging Face等工具以開源方式提供開發者使用 ▲Google強調Gemma 3表現能夠擊敗更大參數的大型語言模型，並可在單一GPU或TPU環境執行 Google強調即便是Gemma 3 27B參數，也能在單一的NVIDIA

Chevelle.fu

4 個月前

科技應用 Google cloud tpu 客製化處理器

Google 表示第六代 TPU Trillium 僅用於加速運算

Google 表示第六代 TPU Trillium 僅用於加速運算，並非設計為個人超級電腦的基礎設備。針對去年在Google I/O 2024揭曉、代號Trillium的第6代TPU，Google Cloud產品群經理Mohan Pichika稍早對此做了進一步說明，並且強調目前在Google Cloud服務提供更多元加速運算元件選擇，藉此滿足不同客戶在服務佈署應用需求。 TPU只是Google Cloud加速運算一環對於目前市場目標發展的通用型人工智慧 (AGI)，衍生是否能以統一加速元件支撐運算需求的看法，Mohan Pichika認為現階段還沒有辦法實現此理想，因此最主要還是會針對不

Mash Yang

5 個月前

蘋果新聞 Google gpu tpu 人工智慧模型 Apple Intelligence

蘋果以自身GPU結合Google的TPU加速訓練其人工智慧模型顯示雙方合作仍密不可分

蘋果 Apple Intelligence 技術傳出前期訓練採用 Google TPU 加速器，顯示蘋果與 Google 在 AI 領域合作密切，並可能也使用 Google Cloud 雲端服務。除了在服務與Google長期合作，蘋果在此次WWDC 2024期間宣布推出的「Apple Intelligence」技術背後，其實也使用Google的TPU進行前期訓練。從相關技術文件顯示，蘋果工程師除了在「Apple Intelligence」採用蘋果自有處理器等硬體，搭配自有軟體框架之外，在人工智慧模型前期訓練更以自有GPU結合Google TPU張量加速器進行加速訓練。不過，蘋果方面並未對

Mash Yang

1 年前

產業消息 Google nvidia 開源 tpu 大型語言模型 LLM Blackwell Gemma 2

Google IO 2024：Google將在2024年6月推出開源模型Gemma 2，並提供與NVIDIA合作可在單一Vertex AI執行的28B參數版本

Google Gemma是與Gemini同源的開放AI模型計畫，也是許多AI服務與應用作為客製化模型訓練的基礎，Google宣布將於2024年6月透過Vertex AI推出新一代Gemma 2，同時還將進一步擴展參數規模，屆時會推出27B參數版本，並強調表現能與具備更多參數的模型抗衡。此外，Google同步預計在夏天於Verstex AI推出Imagen 3圖像生成模型。 ▲Gemma 2的27B參數是與NVIDIA合作可發揮Blackwell潛力的版本，可在單一Vertex AI的GPU Host執行 Google強調Gemma 2 27B參數版本是與NVIDIA密切合作的成果，是為發揮NV

Chevelle.fu

1 年前

產業消息 Google 訓練 tpu Google Cloud 雲端服務生成式AI Blackwell Google Trillium

Google IO 2024：Google代號Trillium的第六代TPU將在2024年末提供服務，性能提升4.7倍、能源效率高67%

Google宣布代號Trillium的第六世代TPU，宣稱相較現行的TPU v5e性能提高4.7倍，並改善67%能源效率；Google預計在2024年底為Google Cloud客戶提供Trillium的實例，除此之外Google也一併介紹在4月公布的客製化Arm處理器Axion將上線提供服務，以及預計於2025年初提供NVIDIA Blackwell GPU加速運算服務。 ▲Trillium強化MXU、導入第三代SparseCore Trillium在設計進一步強化矩陣乘法單元(MXU)、拉高時脈與增加一倍的HBM記憶體頻寬與容量，同時還具備能加速處理排名與推薦工作負載第三代SparseCo

Chevelle.fu

1 年前

科技應用 Google nvidia cloud tpu

Google Cloud 強化運算能力導入 NVIDIA H100、客製化 Arm 處理器 Axion

Google Cloud 也強調新一代 TPU 讓更多雲端任務加速運作，並且可對應 4 倍規模大小的新一代人工智慧模型，並且可用於訓練既有模型，縮短訓練時間。 ▲Google將從5月開始導入以NVIDIA代號「Hopper」的H100加速元件，藉此打造名為A3 Mega的運算設備先前介紹新一代TPU v5p時，Google標榜對應可擴展、具彈性佈署特性，同時也是Google至今為止最具效能的張量加速器，可在單一處理器實現2倍算力、3倍以上記憶體頻寬，以及貼近線性成長的資料運算吞吐量，並且可對應4倍規模大小的新一代人工智慧模型，同時用於訓練既有模型，縮可縮減2.8倍時間。單座TPU v5p

Mash Yang

1 年前

友站推薦