產業消息 nvidia gpu python H100 大型語言模型 LLM NVIDIA TensorRT-LLM NVIDIA 以開源的 TensorRT-LLM 強化 NVIDIA H100 GPU 的大型語言推論性能,具經最佳化調整內核、前處理與後處理步驟及多 GPU 、多節點通訊基元 NVIDIA 能在 AI 領域持續引領風騷,不僅只是靠出色的硬體以及在對的時間推出合宜的產品,更重要的是長期在軟體與社群耕耘,並持續與產業夥伴開發各式工具降低進入 AI 領域的門檻; NVIDIA 於 2023 年 9 月宣布將在未來幾週公布開源的 NVIDIA TensorRT-LLM 軟體,強調將使開發者不須深厚的 C++ 或 NVIDIA CUDA 即可嘗試新的大型模型,並提供峰值效能與快速自訂功能。 NVIDIA TensorRT-LLM 已開放早期適用,預計在不久後整合至隸屬 NVIDIA AI Enterprise 的 NVIDA NeMo 框架。TensorRT for Larg Chevelle.fu 1 年前
App CPU gpu 效能 Windows on Arm Cinebench 2024 Maxon Maxon 公布 Cinebench 2024 基準測試,可評估 CPU 、 GPU 效能並首度支援 Arm 架構處理器 創作者軟體公司 Maxon 的 Cinebench 測試軟體也是 PC 產業經常用於評估處理器效能的軟體之一,在 2023 年 9 月 5 日 Maxon 宣布新一代 Cinebench 2024 ,以更現代化的方式對新一代硬體進行準確的評估,除了支援 x86 Windows 與 MacOS 以外,也首度支援基於 Arm 架構處理器,也包括 Windows on Arm 系統 ,或許可視為暗示後續將有更多基於 Arm 架構的 Windows 筆電裝置問世。 Cinebench R24 下載: Maxon Cinebench 2024 基於 Cinema 4D 的 Redshift 渲染引擎為基 Chevelle.fu 1 年前
產業消息 nvidia gpu vmware 虛擬化 大型語言模型 生成式AI LLM VMWare 攜手 NVIDIA 推出 VMWare Private AI Foundation with NVIDIA ,協助企業在公眾雲環境安全且高效率的使用生成式 AI 技術 VMWare 於 2023 年 VMware Explore 大會宣布與 NVIDIA 合作,針對當前火熱生成式 AI 成立 VMWare Private AI Foundation with NVIDIA ,使企業能在安全、確保資料隱私的前提高效率且具擴充性於 VMWare 的平台使用完整的 NVIDIA AI Enterprise 資源與技術,同時企業可透過直連 GPU 或虛擬 GPU ( vGPU )進行擴展,使用最多 16 個 vGPU 進行 AI 模型訓練。 VMWare 預計於 2024 年初與 NVIDIA 共同推出 VMWare Private AI Foundation wi Chevelle.fu 1 年前
科技應用 nvidia gpu AI 英國將投入 1 億英鎊購入 AI 晶片 希望成 AI 超級大國 英國首相Rishi Sunak將斥資1億英鎊購買高性能AI晶片,加強AI技術發展,目前已與NVIDIA、AMD及Intel洽談,預計購入NVIDIA 5000組GPU,最快明年夏天投入使用。 相關消息指稱,英國首相Rishi Sunak計畫斥資1億英鎊採購數千組高性能人工智慧晶片,藉此推動英國境內人工智慧技術應用佈局,並且提高英國在推動人工智慧技術成長的重要地位。 英國政府已經與NVIDIA、AMD、Intel等業者進行洽談,其中預計與NVIDIA進行最後洽談階段,預計由英國政府向NVIDIA採購5000組高效能GPU。而除了目前提撥1億英鎊資金,英國政府似乎還計畫籌撥更多資金投入人工智慧技術 Mash Yang 1 年前
遊戲天堂 AMD gpu AMD Radeon 顯示卡 RDNA 4 爆料指稱 AMD RDNA 4 架構的消費級顯示卡將不推高階款,另外 RDNA 3.5 將為 Ryzen 8000 專用的 iGPU 架構 AMD 在目前的 RDNA 3 架構產品提供與 NVIDIA GeForce RTX 4090 與 GeForce RTX 4090 抗衡的 Radeon RX7900 XTX 與 Radeon RX 7900 XT ,雖然原本預期在 NVIDIA 調漲 GeForce RTX 40 系列整體價格、加上 GeForce RTX 4090 幾起連接器熔毀事件後有望搶下一定市場,但市場殘酷的現實則是 Radeon RX 7900 系列仍叫好不叫座;現在爆料者 @Kepler_L2 聲稱 AMD 預計在 2024 年推出的 RDNA 4 架構產品將不包含頂級產品,將僅提供中階與主流產品。 Navi4 Chevelle.fu 1 年前
產業消息 CPU qualcomm ARM gpu AI mali IPO cortex-a cortex-m cortex-r 高通 軟體銀行 蘋果 Arm 有望在 2023 年 9 月份以超過 600 億美金估值在美國 IPO ,僅次於阿里巴巴與 Meta 被日本軟體銀行收購的 Arm 由於與 NVIDIA 的合併案失敗,最終不得不啟用 B 計畫進行上市,並在 2023 年 4 月拒絕英國政府在倫敦上市的計畫後策畫在美股上市,根據彭博社引述業內人士說法, Arm 計畫在 2023 年 9 月的第一週於美國那斯達克進行 IPO ,估值據稱會落在 600 億美金至 700 億美金之間,如此一來將成為僅次於 2014 年的阿里巴巴與 2012 年的 Meta ( Facebook 名義)的科技公司。 ▲ Arm 希望能以 800 億美金估值 IPO ,不過最終可能落在 600 億至 700 億美金之間 在 2023 年 Arm 的估值約落在 300 億 Chevelle.fu 1 年前
遊戲天堂 gpu RTX IO Direct Storage NVIDA 公布 RTX IO 技術三年後終於先使用在傳送門:序曲 RTX 版,能加速關卡讀取速度與減少場景轉換卡頓 NVIDIA 在 2020 年公布 GeForce RTX 30 系列時,曾一併公布稱為 RTX IO 的存取技術,其特性與微軟的 Direct Storage 相近,是使 RTX GPU 能夠直接讀取硬碟中的遊戲材質資料,將原本材質解壓縮的任務由 CPU 轉到 GPU ,宣稱能加速遊戲關卡讀取速度,並減少遊戲中場景轉換的卡頓;不過原定最快 2021 年會使用在實際遊戲的 RTX IO 就這樣靜悄悄的沒消沒息,直到 2023 年 NVIDIA 介紹 RTX Memix 遊戲重置工具製作的傳送門:序曲 RTX 版( Portal : Prelude RTX )時,才帶到這款知名第三方 Mod 的 Chevelle.fu 1 年前
產業消息 中國 gpu cuda AI 新創公司 加速器 中國新創登臨科技宣布將推出相容 CUDA 與 OpenCL 的軟體定義異構運算 CPU ,並獲得中國國家資金挹注 中國在近年受到中美貿易戰影響,除了影響晶片取得與製造以外,也興起一股「國芯國造」的熱潮,許多新創公司紛紛宣稱投入各領域的晶片研發,其中在 GPU 部分就有高達 13 家,近期一家位於上海的登臨科技宣布取得中國國家資金的挹注,將開發可相容 CUDA 與 OpenCL 的異構晶片,並打造一系列稱為 Goldwasser 的 AI 加速產品。 ▲畢竟有爆芯貼標 Intel 處理器的前車之鑑,登臨是否也是將 NVIDIA 產品改標也值得玩味(圖片擷取自:登臨科技) 不過若細看登臨科技的 Goldwasser 產品,即便是最高階的 Goldwasser XL ,也不過是一款 120W TDP 、採用 P Chevelle.fu 1 年前
科技應用 CPU nvidia gpu AI 超級電腦 天氣即時預報 FourCastNet NVIDIA 倡議天氣模擬中心導入結合 AI 與加速運算的系統,具備更精準、更節能的天氣預測與氣候建模能力 天氣預測對人類是相當重要的風險管理的一環,畢竟如暴風雪、颱風、颶風與熱浪等嚴重天氣事件增加,也造成對人類生存與相關財產的損失;當前全球許多天氣模擬中心由於演算法等因素仍堅守傳統 CPU 架構 HPC ,然而 CPU 架構由於先天特性,需使用龐大的 CPU 節點、高能耗與冗長的模擬與天氣建模時間; NVIDIA 則在全球對能源效率更為重視的當下,倡議天氣模擬中心導入基於 GPU 加速的 AI 與異構,藉此提供高效能、精確且更具能源效率的天氣預測與天氣模型建構,同時包括歐洲中期天氣預報中心、馬克斯普朗克氣象學研究所、德國氣象局與美國國家大氣研究中心已經採用能於 GPU 執行的天氣模型,體現 GPU Chevelle.fu 1 年前
蘋果新聞 gpu pcie Mac Pro 記憶體 顯示卡 工作站 蘋果 M2 Ultra 雖然全新 Mac Pro 給了 PCIe 插槽,但恐怕你還是別想安裝 AMD 與 NVIDIA 的顯示卡 蘋果在 WWDC 宣布處理器去 Intel 化的最後一步: M2 Ultra 晶片與 Mac Pro 工作站,借助以雙 M2 Max 構成的 M2 Ultra 晶片,以及最高達 192GB 的統一記憶體,使得效能得以較採用 Intel 處理器時期大幅翻倍,同時機箱結構也保留多路的 PCIe 插槽,只不過以蘋果的習慣,這些 PCIe 插槽的目的並非為了提供使用者自由性,而是用於擴充蘋果認證的介面卡,這也意味著能夠安裝如 AMD 、 NVIDIA 顯示卡的機率微乎其微。 蘋果不開放安裝驅動的話,能安裝 GPU 也沒意義 理由並不難理解,即便蘋果預留通用的 PCIe 插槽,然而最根本的問題是蘋果給不 Chevelle.fu 1 年前