隨著人工智慧技術的快速發展，生成式 AI（Generative AI）時代已經來臨。在台北國際電腦展（Computex）上， NVIDIA 創辦人暨執行長黃仁勳正式發布了新一代 Blackwell GPU 架構，標誌著這個新紀元的到來。 Amazon Web Services（AWS）與 NVIDIA 在去年 AWS re:Invent 全球盛會上宣布擴大策略合作，攜手推出先進的基礎設施、軟體及服務，推動客戶在生成式 AI 領域的創新發展。
黃仁勳發布 Blackwell ，引領生成式 AI 新紀元
在 2024 GTC 大會上，黃仁勳正式發布了新一代 Blackwell GPU 架構，標誌著生成式 AI 時代的來臨。 Blackwell 具備六項革命性技術：
- 世界最強大的晶片： 採用台積電客製化 4 奈米製程製造，配備 2080 億個電晶體，兩倍光罩尺寸 GPU 裸晶透過 10 TB/s 的晶片到晶片互連（Chip-to-Chip Interconnect）連接成單個、統一 GPU 。
- 第二代 Transformer 引擎： 支援新的微張量擴展（Micro Tensor Extension），並與 NVIDIA TensorRT-LLM 和 NeMo Megatron 框架整合，可支援 4 位元浮點 AI 推論，加倍運算和模型尺寸。
- 第五代 NVLink： 每個 GPU 提供驚人的 8TB/s 雙向吞吐量，確保高達 576 個 GPU 之間的高速溝通，加速多兆參數和混合專家 AI 模型（Mixture-of-Experts AI Models）的效能。
- RAS 引擎： 包含專用的可靠性、可用性和可服務性（Reliability ， Availability ， and Serviceability ， RAS）引擎，並利用基於 AI 的預防性維護來運行診斷和預測可靠性問題。
- 安全 AI： 先進的機密運算（Confidential Computing）功能可在不影響效能的情況下保護 AI 模型和客戶資料。
- 解壓縮引擎： 專用解壓縮引擎支援最新格式，加速資料庫查詢，提供資料分析和資料科學的最高效能。
Blackwell 可支援兆級參數的大型語言模型（Large Language Models ， LLMs），並將成本和能源消耗降低多達 25 倍，推動生成式 AI 的發展。黃仁勳表示，個人電腦產業將重啟進入新時代，而 NVIDIA 就是 AI 產生器的引領者。
AWS 與 NVIDIA 合作，打造生成式 AI 新基礎設施
透過這項深入合作， AWS 和 NVIDIA 將共同打造全新的 AI 運算基礎架構，為客戶提供靈活、可擴展的雲端資源，加速生成式 AI 創新應用的開發和部署。亞馬遜總裁暨執行長 Andy Jassy 表示：「我們與 NVIDIA 的深度合作可以追溯到 13 年前，當時我們在 AWS 上推出了世界上第一個 GPU 雲端實例。今天，我們在雲端的任何地方提供最廣泛的 GPU 解決方案，支援世界上技術最先進的加速工作負載。這就是為什麼新的 NVIDIA Blackwell GPU 將在 AWS 上運作得如此出色，也是 NVIDIA 選擇 AWS 共同開發 Project Ceiba 的原因，該專案將 NVIDIA 的下一代 Grace Blackwell 超級晶片與 AWS Nitro System 先進的虛擬化技術和超高速 Elastic Fabric Adapter 網路結合，用於 NVIDIA 自己的 AI 研發。 透過 AWS 和 NVIDIA 工程師的共同努力，我們將繼續共同創新，使 AWS 成為任何人在雲端中運行 NVIDIA GPU 的最佳場域。」
AWS 與 NVIDIA 雲端軟體支援加速生成式 AI 研發
除了硬體基礎設施， NVIDIA 也在軟體層面提供全面的支援，加速生成式 AI 的研發進程。在 AWS 雲端上運行的 NVIDIA 軟體生態系統，能夠簡化模型開發、訓練和部署的流程。
- NVIDIA NeMo 框架：NVIDIA NeMo LLM 框架、NeMo Retriever 和 BioNeMo 等工具，能夠加速自訂生成式 AI 模型、語意檢索和新藥開發等應用的發展。研發團隊可以利用這些工具快速構建和優化模型，縮短上市時間。
- Amazon Titan 大型語言模型：AWS 正運用 NVIDIA NeMo 框架訓練新一代 Amazon Titan 大型語言模型，這款模型將提供更強大的自然語言處理能力，為 AWS 的語音助理 Alexa 等服務提供動力。
- NVIDIA Omniverse Isaac：Amazon Robotics 開始運用 NVIDIA Omniverse Isaac 打造數位分身（Digital Twins），透過仿真和優化，推動自主倉庫的自動化、最佳化和規劃，提高效率和降低成本。
透過黃仁勳發佈 Blackwell GPU 架構和 AWS 與 NVIDIA 的合作，不難看出生成式 AI 的下一個時代已經來臨。雙方攜手推出的新基礎設施、軟體和服務，將可以加速各行業在生成式 AI 領域的創新發展，為人工智慧技術帶來全新的發展契機。
👉🏻了解更多 AWS 生成式 AI：https://www.cool3c.com/topics/aws
本文章內容由「Amazon Web Services (AWS)」提供。
