Red Hat 啟動 LLM-D 社群專案 加速大規模分散式生成式 AI 推論
Red Hat 發表 llm-d 開源社群,結合 vLLM 與 Kubernetes 架構,致力於實現大規模分散式生成式 AI 推論,提升企業部署效率與彈性。 Red Hat近期宣布推出全新開源專案llm-d,旨在回應未來生成式AI (Gen AI)最關鍵的大規模推論需求。 此專案由創始貢獻者CoreWeave、Google Cloud、IBM Research與NVIDIA共同發起,並且獲得AMD、Cisco、Hugging Face、Intel、Lambda和Mistral AI 等業者,以及加州大學柏克萊分校和芝加哥大學等學術機構參與,目標讓生產環境中的生成式AI應用像Linux一樣無所
1 個月前
Red Hat 與 AMD 深化戰略合作 強化 AI 推論與虛擬化部署選項
Red Hat 與 AMD 擴大戰略合作,強化 AI 推論與虛擬化部署,推動企業邊緣運算解決方案。 Red Hat宣布與AMD擴大策略合作,雙方將結合Red Hat在開放原始碼與AI軟體平台的領導優勢,以及AMD在高效能運算架構的深厚技術,共同為企業用戶提供更靈活且具備效能優勢的AI與虛擬化解決方案,協助因應日益多樣化的混合雲與生成式AI佈署需求。 在 AI 工作負載方面,Red Hat表示其OpenShift AI解決方案已經全面支援AMD Instinct GPU,企業無需投入大量資源,即可透過高效能的GPU進行加速,並且在跨混合雲架構中快速導入、佈署生成式AI模型。 雙方也在微軟Azur
2 個月前
Red Hat 收購 Neural Magic 強化 AI 解決方案能力
Red Hat 宣布收購自動生成式人工智慧軟體與演算法公司 Neural Magic,提升其在混合雲環境中部署高效能 AI 工作負載的能力,為企業提供更靈活的 AI 解決方案。 Red Hat近期宣布收購自動生成式人工智慧軟體及演演算法業者Neural Magic,藉此推動在跨混合雲環境中任何位置都能實現高效能人工智慧工作負載。 目前多數人工智慧都是透過大型自然語言模型 (LLM)支撐運作,同時多半是由大型科技業者打造、營運,一般企業多半不太有足夠資源支撐自建、維護大型自然語言模型,因此較難使用全客製化、佈署就緒且具安全性的人工智慧技術。 而藉由Neural Magic在vLLM推論框架的技術
8 個月前
Red Hat 加速人工智慧發展 聚焦混合雲與開源平台
Red Hat 推出 RHEL AI 服務平台及更新 Ansible 平台,未來人工智慧技術將透過混合雲環境加速佈署,助企業輕鬆應用。 今年5月在丹佛舉辦的技術大會中公布以開源形式加速推動自動生成式人工智慧成長的Red Hat Enterprise Linux AI服務平台,並且更新Ansible自動化平台,讓人工智慧可在混合雲環境以符合特定原則運作,Red Hat今日 (11/5)活動上表示未來的人工智慧技術發展將建構在混合雲環境下成長,而混合雲架構也將使人工智慧能輕易佈署於任何場景使用。 Red Hat全球副總裁暨大中華區總裁曹衡康指出,目前市場對於人工智慧的需求,就如同過去眾人談論的數位
8 個月前
Red Hat 技術長 Chris Wright:開源加速推動人工智慧應用發展
Red Hat 技術長強調開源技術核心地位,預期 2023 至 2026 年間人工智慧應用需求大增。 強調以開源技術加速推動人工智慧應用發展之餘,Red Hat技術長Chris Wright說明相比過往全面以應用服務發展的情形,當前企業發展已經處於一半維持應用服務,另一半則已經轉向人工智慧應用的趨勢,而Red Hat接下來也會持續藉由開源方式持續探索未來人工智慧技術應用可能性。 同時,Chris Wright更預期從2023年到2026年這段時間內,人工智慧應用需求將會有10倍以上的成長幅度。 ▲當前企業發展已經處於一半維持應用服務,另一半則已經轉向人工智慧應用的趨勢 ▲預期從2023年到20
1 年前
Red Hat 攜手軟硬體業者加速人工智慧應用
Red Hat 著重與硬體業者合作,透過開源平台加速企業導入人工智慧。 針對Red Hat當前發展模式,Red Hat執行長Matt Hicks在此次Red Hat技術大會上說明開源依然是其發展主軸,但由於人工智慧技術應用服務不一定採開源形式運作,同時即便以開源形式也不見得適用於所有基礎架構環境,因此Red Hat重心匯聚在與更多軟硬體業者合作,並且透過其開源平台協助更多企業輕易導入人工智慧技術應用資源,使其能更快推出各類人工智慧應用服務。 Matt Hicks表示,雖然Red Hat隸屬IBM雲端業務部門,但本身仍維持獨立運作,同時與IBM團隊也有諸多合作,透過開源方式讓諸多人工智慧可在各類
1 年前
Red Hat:開源及軟硬體整合加速企業AI應用部署
Red Hat 在技術大會上強調,透過開源與軟硬體整合,將加速企業導入人工智慧技術,打破傳統軟硬體障礙,推動 AI 應用普及。 針對當前企業導入人工智慧技術應用需求,Red Hat亞太地區企業銷售副總裁Daniel Aw認為在當前以軟體定義加速運算成長的情況下,透過開源及軟硬體整合形式加快人工智慧技術應用將會變成主流方式。 如同此次Red Hat在技術大會中強調與諸多業者整合,並且透過開源形式讓開發者、企業能更容易在任何位置佈署人工智慧,Daniel Aw說明Red Hat當前提供服務就是讓開發者、企業能以更簡單、快速方式推出人工智慧應用服務,同時也能輕易地移轉到其他位置。 不過,Daniel
1 年前
Red Hat Ansible 新增原則即程式碼功能 強化混合雲 AI 自動化管理
Red Hat 透過 Ansible 平台新增「原則即程式碼」功能,以強化人工智慧自動化應用管理,保障企業在混合雲環境中遵守特定安全與運作標準。 除了宣布以開源形式推動人工智慧技術應用成長,Red Hat也針對自動化應用的Ansible平台進行更新,加入原則即程式碼功能 (policy as code),讓企業能在混合雲架構環境執行符合特定原則的人工智慧自動化運作。 由於在越來越多人工智慧技術應用情況下,自動化將會變得更加重要,但同時也會讓管理變得更具挑戰,尤其在自動生成式人工智慧技術大量導入中,將使運算管理日趨複雜且需在短時間內完成因應不同情況調整。 ▲加入原則即程式碼功能 (policy
1 年前
Red Hat OpenShift AI平台擴大支援 加速企業混合雲 AI 應用部署
在此次Red Hat技術大會中,Red Hat除了宣布釋出Red Hat Enterprise Linux AI服務平台預覽內容,更進一步擴大其OpenShift AI平台資源應用整合範疇,另外也強調將持續助企業藉由橫跨混合雲的基礎架構佈署各類人工智慧應用服務。 如同Red Hat Enterprise Linux AI (RHEL AI)服務平台,藉由開源形式讓企業能更容易存取各類自動生成式人工智慧模型,以平台即服務 (PaaS)形式運作的OpenShift AI平台也同樣透過開源加快企業及開發者取用各類人工智慧資源的流程。 Red Hat表示,當前的人工智慧技術應用已經不再處於評估階段,各
1 年前
Red Hat 於丹佛技術大會宣布推動開源 AI 應用
Red Hat 推出 RHEL AI 服務平台,加速企業人工智慧應用,強化與業界合作,並強調開源的重要性。 在此次於丹佛舉辦的Red Hat技術大會上,Red Hat總裁暨執行長Matt Hicks強調開源依然是Red Hat發展重要基礎,並且將在當前人工智慧浪潮藉由開源方式,讓開發者能以更具彈性、兼具安全形式推動多元人工智慧應用發展,同時也說明將在混合、跨雲基礎架構與更多業界夥伴深入合作,藉此作為現代化運算的穩健基石。 Matt Hicks表示,將透過提供開源環境、更多選擇,並且藉由賦予更多控制權形式,讓開發者、企業能更容易運用人工智慧運算資源。 ▲Red Hat強調將以開放、更多選擇與控制
1 年前

相關文章