Google Cloud 推出 Cloud Run GPU 服務 可彈性配置 NVIDIA L4 GPU

2025.06.09 01:59PM

Google Cloud 推出 Cloud Run GPU,可靈活配置 NVIDIA L4 GPU,強化 AI 應用與雲端運算效率。

Google Cloud稍早宣布推出Cloud Run GPU服務,讓使用者能透過此服務以於雲端形式使用NVIDIA L4 GPU,藉由自動擴展、彈性佈署形式使用,主要針對人工智慧運算、推論訓練等工作負載使用。

同時,由於無須事先申請設定GPU配置規模,可自動依照運算需求彈性配置GPU數量,因此不會造成GPU在未使用時造成資源閒置,進而產生額外成本,藉此增加佈署彈性,更可藉由自動化佈署簡化管理難度。

此服務採以秒計費形式使用,同時在不使用時即可自動歸零,同時在冷啟動狀態下能於5秒左右時間完成GPU與驅動程式啟動,若以Gemma 3 40億組參數規模推論運作為例,自冷啟動狀態到產生第一個詞元 (token)僅需約19秒時間,意味能在短時間內快速啟動。

2 SrvmWli.max 1600x1600 1
而Cloud Run GPU服務本身可直接在應用程式加入相關指令,或是在應用服務控制台背後選擇是否開啟GPU加速運算。

既然採彈性配置形式提供使用,Google Cloud也標榜此服務運作可靠性,並且說明使用者或企業能依照營運需求在多個區域佈署使用,另外也能關閉分區備援調整整體可用運算資源配置。

目前Cloud Run GPU服務已經在美國、歐洲及亞洲多個Google Cloud區域服務上線。

相關消息

新品資訊
一圖看懂 Panasonic 日本製 IH 調理爐:光火力感應控溫黑科技,開啟AI智慧烹飪新時代
癮特務
3 天前
應用教學
726罷免案開票直播懶人包:即時開票、YouTube線上直播、中選會線上開票、罷免結果查詢
Zero圈圈
1 天前
新奇搞笑
酷暑生智慧 阿富汗運將的外掛型車頂冷氣
Twelve
17 個小時前
新奇搞笑
透明高蛋白質新型飲料
Twelve
15 個小時前
雲端服務
AI 智轉百業賦能企業,2025 Google Cloud Summit Taipei 引領最新生成式 AI 應用
癮特務
9 天前
新奇搞笑
放一下才好吃?揭開牛排靜置背後的熱力學秘密
Twelve
16 個小時前
新奇搞笑
Google 的 AI 摘要被控威脅內容網站的生計
Twelve
13 個小時前
新奇搞笑
Wi-Fi 有機會成為一種無影像的新型監控方式
Twelve
1 天前
開箱評測
懶人就是要電動 小米電動精修螺絲起子機特價699元 雙段速扭矩可調
Tandee
10 個小時前