專家觀點 NVIDIA GTC nvidia x86 GTC 深度學習 nvlink pascal 黃仁勳 Ampere nvswitch Neoverse Mellanox Hopper 加速運算 NVLink-C2C 大型語言模型 生成式AI Blackwell 自2012年回顧NVIDIA GTC大會,一探NVIDIA如何成就今日CUDA GPU加速運算與AI霸業 在2024年,NVIDIA首次在COVID-19疫情解封後將年度活動NVIDIA GTC大會恢復實體活動,吸引達1.5萬人報名前往美國加州聖荷西參與,也是歷屆規模與參與人數最大的一場GTC活動;筆者很幸運的在約十年前就陸續有機會參與GTC大會,然而自筆者開始接觸GTC活動之初,GTC大會的聲勢與規模與現在截然不同。 回到2012年的時空情境,台灣財經產業一片唱衰NVIDIA並表示隨時可能倒閉,但若從每年GTC的進展,不難看到當前NVIDIA在加速運算與AI的霸業早已有跡可循;以筆者個人的認知,NVIDIA當前的成功,建立在堅持發展認為有未來性的技術,並以GPU為核心一路擴展技術宇宙,待到對的時 Chevelle.fu 1 年前
科技應用 NVIDIA GTC nvidia Omniverse USD ChatGPT 生成式AI LATTE3D GTC 2024:NVIDIA研究團隊公布文字轉3D AI模型LATTE3D,單一繪圖卡可在一秒將敘述轉換為物體或動物的3D模型 NVIDIA研究團隊在GTC 2024公布最新的文字轉3D研究成果:LATTE3D模型,相較一年前透過文字轉3D模型需費時近一小時、當前的技術進一步縮減至10秒左右,但LATTE3D僅須透過單張NVDIA A6000繪圖卡即可在近乎即時的1秒內產生相同品質的模型,同時產生的3D物件還可匯出到如NVIDIA Omniverse等符合USD通用場景描述圖形的軟體應用或平台,對於創作者,LATTE3D不需從頭設計或自3D資源庫尋找,即可將靈機一動的想法產生精細的3D物件。 ▲LATTE3D可使用單張NVIDIA A6000將自然語言敘述在不到一秒產生3D物件,選定後在透過幾分鐘時間產生更精細的物件 Chevelle.fu 1 年前
雲端服務 短網址服務 資料庫服務 AWS AI PicSee Kinesis 短網址服務 PicSee 玩出「宇宙級武器」 AWS 資料庫加持 成就 50 億次海量點擊 「活動網址,記得縮短一下再出去,才能追蹤成效!」這句話網路行銷人每天都會聽到,根據 Digital Report 2020 報告指出,台灣使用者每日花 7 小時 57 分鐘上網,「網址」已經是人人每天最常接觸的數位產物,但冗長的網址也相對帶來便利性、辨識性、安全性的問題,於是『短網址服務』應運而生,以「代名」的方式提供原網址一個輕巧,更能提供監測數據、行銷分析,甚至知道觀眾還對那些主題感興趣,讓短網址服務也成了 MarTech 行銷科技平台。 新創團隊 PicSee 就是短網址服務的佼佼者,不僅獲得 Hive Ventures 與國發基金手共 100 萬美元的 Pre -A 輪投資,現階段的他 癮特務 最近
科技應用 NVIDIA GTC 客製化 增強實境 XR Omniverse 生成式AI BAC Mono GTC 2024:NVIDIA透過Ominverse與生成式AI,使超跑準買家不僅可虛擬賞車還可出一張嘴大玩配色 結合即時光線追蹤與即時渲染的NVIDIA Omniverse技術被許多高級汽車品牌應用在零售領域,相較傳統固定渲染的虛擬賞車方式,Omniverse不僅可即時呈現車輛在不同光影情境、不同角度的質感,還可結合XR裝置進行沉浸式賞車;NVIDIA在GTC 2024的XR體驗區與英國超跑品牌BAC、HP合作,進一步將生成式AI與個性化配色結合,使準車主能夠透過自然語言客製化獨一無二的配色。 ▲透過Omniverse可即時更換車子的配色、漆料質感 ▲透過手持平板掃描地板上的QR Code,即可透過XR方式進行1:1虛擬賞車 在這項展示中,準車主可透過平板掃描地板的QR Code進行定位,並透過XR方式 Chevelle.fu 1 年前
科技應用 NVIDIA GTC nvidia 3D 裸眼3D 生成式AI GTC 2024:NVIDIA展示利用生成式AI將平面大頭照轉化立體頭像技術 NVIDIA研究團隊多次展示利用基於深度學習的AI將單一張照片轉化為3D物件的技術,在GTC 2024會場的XR展示區,NVIDIA研究團隊展示透過生成式AI將大頭照轉換為3D頭像、再結合裸視3D顯示的技術。此項技術將可延伸用於視訊會議,提供貼近面對面的臨場感。 ▲結合裸視3D顯示,彷彿與對方面對面對話 這項技術是利用視訊相機拍攝一張人物胸像後,結合生成式AI技術將平面照片進一步轉化為3D頭像,從拍攝照片到產生3D頭像約半分鐘前後,視覺效果遠超過當前社群平台提供的3D照片,因為此技術是利用生成式AI產生,相較一般AI產生的平面轉立體效果,能進一步補充細節與修整3D建模的立體感,同時結合裸視3D Chevelle.fu 1 年前
雲端服務 數位轉型 AWS AI 能源轉型 Taiwan Can Help 能源台灣 數位發展策略高峰論壇 智慧電力公司來了! 全球能源革命,產業科技應用大爆發 你知道嗎?在能源轉型上,除了於電動車取代燃油車之趨勢外,電力產業其實早已悄悄的進行能源革命。國際能源總署(International Energy Agency)指出, 2035 年全球能源需求將較目前增加三分之一,加上節能減碳的倡議、企業 ESG 的重視、人工智慧/物聯網的導入、智慧電網的形成,電力產業的樣貌,正走向全新的變革境界。 「台電未來會是科技應用產業,用創新的方式提供電能與相關服務。」台灣電力公司總經理鍾炳利說。本月 21 日「數位發展策高峰論壇」熱鬧展開,台電在大會中展示了如何透過雲端導入實現「能源轉型計畫」,贏得各界一致好評。 Amazon Web Services (AWS) 癮特務 17 個小時前
產業消息 NVIDIA GTC nvidia DGX Hopper NVIDIA H100 Grace CPU Blackwell NVIDIA B200 DGX GB200 GB200 Superchip NVIDIA B100 GTC 2024:Blackwell GPU家族成員除了GB200 Superchip、B200 GPU外,還有等同B200 GPU壓低能耗的B100 GPU 在早期的產品藍圖,當時NVIDIA指稱2024年將公布代號B100的Hopper後繼架構,不過在GTC 2024,NVIDIA則是聚焦在Blackwell架構的GB200 Superchip與B200 GPU,但在Blackwell產品線規劃,B100 GPU確實存在,而且與B200 GPU的關鍵差異僅在於能耗設定以及因為能耗影響的效能。 ▲B200晶片特寫,可看到上下的HBM3E記憶體以及兩個互連的Blackwell晶粒 根據NVIDIA提供的白皮書,Blackwell GPU是透過封裝技術將兩個晶片與8Gbps HBM3E記憶體透過高速通道連接構成一個晶片,總共有2,080億個電晶體,單一 Chevelle.fu 1 年前
產業消息 NVIDIA GTC nvidia 伺服器 grace 水冷 nvlink nvswitch Blackwell GB200 Grace Blackwell DGX GB200 GB200 NVL72 GB200 Superchip GTC 2024:NVIDIA DGX GB200液冷伺服器動眼看,由18台GB200 Superchip的機架伺服器、9台NVSwitch構成的大型AI Factory單元 NVIDIA在GTC 2024公布基於NVIDIA GB200 NVL72的DGX GB200系統,在會場也展示實際的設計;不同於過往x86形式的DGX系統是由2個x86晶片以PCIe連接到具備8個NVIDIA GPU的NVLink載板的風冷式機架伺服器,DGX GB200則是由18台載有兩套NVIDIA GB200 Superchip的1U伺服器,搭配9台NVSwitch的NVLink交換器等構成,同時也僅有液冷散熱單一設計。 ▲左側為NVSwitch交換器,中間與右方分別為移除水冷頭的以及覆蓋有液冷頭的GB200 Superchip伺服器 ▲後方白色的纜線為NVSwitch的銅纜 ▲液冷道 Chevelle.fu 1 年前
雲端服務 Amazon Bedrock AWS AI AI 模型 專屬 AI AI 落地 Amazon Bedrock 超進化!百種 AI 模型整合上線加速企業打造專屬 AI 在剛落幕的 AWS re:Invent 2024 大會上,AWS 為其明星產品 Amazon Bedrock 帶來了超級升級。這次的更新不只是簡單的功能添加,而是一次徹底的進化,讓企業打造 AI 應用就像是在組裝樂高積木一樣直覺又有趣。從 AI 模型的選擇到實際應用的部署,AWS 正在重新定義企業級 AI 的使用體驗。 Amazon Bedrock 模型百寶箱:一次整合超過百種 AI 模型 ▲Photo Credit:Amazon Web Services (AWS) 想像一下,現在的 Amazon Bedrock 就像是一個巨大的 AI 模型百貨公司,一次整合了超過 100 種各具特色的基礎 癮特務 22 個小時前
科技應用 NVIDIA GTC nvidia 氣象預報 生成式AI FourCastNet 中央氣象署 CorrDiff GTC 2024:NVIDA與台灣中央氣象署展示基於生成式AI的CorrDiff如何提升颱風路徑預測精確度,結合擴散模型將精度自25公里縮減至2公里 NVIDIA推出的Earth-2數位孿生技術是為了研究全球氣候變遷的技術,可將氣象預估透過即時可視化的方式呈現,同時結合FourCastNet技術,已能夠模擬25公里左右的颱風路徑精確度,不過若進一步結合當前火紅的生成式AI,精準度還會獲得飛躍性的提升;NVIDIA在GTC 2024大會展示一項與台灣交通部中央氣象署的專案合作成果,雙方透過稱為CorrDiff的生成式超解析/縮小擴散模型,進一步將精準度縮減至2公里。 ▲2021年的燦樹颱風在台灣、菲律賓、中國與日本造成重創 NVIDIA在案例中以2021年發生的燦樹颱風為例,當時在台灣、菲律賓、中國與日本造成嚴重的災害,若能進一步將颱風路徑預 Chevelle.fu 1 年前
產業消息 NVIDIA GTC nvidia Omniverse 自主機器人 人形機器人 數位孿生 製造業 GR00T GTC 2024:Omniverse數位孿生、Isaac自主機器人與生成式AI,NVIDIA為未來製造業帶來嶄新樣貌 NVIDIA的Omniverse數位孿生與Isaac自主機器人結合生成式AI技術,能為下一代的製造業帶來嶄新的樣貌;實際上,隨著虛擬仿真技術生活到數位孿生,許多工廠的規劃已經在Omniverse環境以數位孿生方式進行模擬,包括對空間的最佳化利用、內部通道的最佳化規劃,同時隨著Issac機器人技術與Omniverse結合,並將生成式AI的靈活與突破結合機器人技術,新一代的智慧工廠因此受益。 NVIDIA在GTC 2024大會展示許多合作夥伴利用數位孿生建構的現代化智慧工廠產線,借助Omniverse技術,可先建構廠房的數位孿生環境,並先行規劃設備、產線,同時透過仿生技術,在數位孿生模擬產線人員、 Chevelle.fu 1 年前
雲端服務 Accenture CodeWhisperer AWS AI 協助開發人員 樣板程式碼 生成式 AI 提升開發效率的祕密:Accenture 的 Amazon CodeWhisperer 實戰解密 在數位化時代的驅動下,軟體開發已成為企業創新和成長的核心動能。然而,開發人員往往需要花費大量時間和精力在重複性的工作上,例如撰寫樣板程式碼、搜尋程式碼片段等,這些瑣碎的任務不僅降低了開發效率,也限制了開發人員投入於更具創新價值的工作。為了解決這個痛點, Amazon Web Services (AWS) 推出了一款革命性的生成式 AI 工具——CodeWhisperer ,它能根據開發者的自然語言註解,自動生成對應的程式碼建議,大幅提升開發效率。作為全球頂尖的科技顧問公司, Accenture 已將 CodeWhisperer 融入軟體工程最佳實踐,助力開發團隊提升 3 癮特務 1 天前
專家觀點 NVIDIA GTC ARM nvidia nvlink Mellanox Arm Neoverse 加速運算 NVIDIA Grace NVLink-C2C Grace Hopper SuperChip Blackwell GH200 GB200 Grace Blackwell GB200 NVL72 觀點:NVIDIA Blackwell架構著重結合Grace CPU的GB200 Superchip,意味著NVIDIA逐步減少對x86依賴 NVIDIA在GTC 2024的重點即是宣布全新AI超算GPU架構Blackwell,值得關注的是過往NVIDIA將重點放在整合Grace CPU的「Grace Blackwell」NVIDIA GB200 Superchip,並將GB200構成的GB200 NVL72機架式系統視為新DGX SuperPOD的關鍵架構,對於純CPU的NVIDIA B200相對輕描淡寫。 ▲回顧NVIDIA的GPU加速運算之路,從僅有2家夥伴至今已成HPC與AI產業龍頭 NVIDIA如此大張旗鼓宣傳GB200 Superchip,主要的理由恐怕還是向產業擺明NVIDIA在超算領域正設法減少對AMD與Intel的 Chevelle.fu 1 年前
產業消息 NVIDIA GTC micron 美光 HBM3e NVIDIA H200 GTC 2024:美光於GTC大會展示已量產的8層堆疊24GB HBM3E解決方案在內的多項記憶體與儲存解決方案 美光日前宣布其8層堆疊HBM3E記憶體已量產,並將在2024年第二季搭配NVIDIA H200 GPU出貨;在GTC 2024活動,美光展示一系列記憶體與儲存解決方案,挹注自雲端至邊際的AI應用。同時競爭對手三星、Hynix也同樣在會場展示HBM3E記憶體。 ▲美光預計在2024年再推出12層36GB HMB3E記憶體 美光展示的解決方案包括:1、8層堆疊24GB HBM3E解決方案與後續12層36GB HBM3E解決方案。2、使用單片晶粒具低延遲與低功耗優勢的DDR5 RDIMM記憶體。3、支援NVIDIA Grace CPU的LPDDR5X記憶體解決方案與LPCAMM2模組。4、可在3D Chevelle.fu 1 年前
雲端服務 大型語言模型 Amazon Bedrock AWS AI 生成式 AI Claude 3 Opus 生成式 AI 新帝王 Anthropic Claude3 Opus 震撼登陸 Amazon Bedrock 在生成式 AI 激烈競爭的2024年,一場革命性的變革正在上演。Anthropic 公司旗下最新一代大型語言模型 Claude 3 Opus 以驚人的實力超越群雄,在 Hugging Face 的 Chatbot Arena 排行榜中獨佔鰲頭,成為新一代生成式 AI 的領軍者。今天開始透過 Amazon Bedrock,任何人都可以輕鬆訪問和部署這款頂尖大型語言模型,在生成式 AI 上開啟創新無限可能。 生成式 AI 新王 Anthropic Claude 3 Opus 在 Chatbot Arena 排行榜中大放異彩 Chatbot Arena 是一個公平透明的生成式AI評估體系,由數百名人 癮特務 1 天前