IBM 發表首款 AI 安全與治理整合平台，協助企業打造可信任的 AI 生態系統。
隨著生成式AI應用日益普及，企業在佈署AI代理 (Agent)與自動化應用時，除了追求效率，同時也必須正視安全與合規風險。IBM日前宣布推出業界首款整合AI治理與安全防護的軟體，結合watsonx.governance與Guardium AI Security功能，為企業提供橫跨AI開發、佈署、運作全階段的風險可視化與自動防護能力。
IBM指出，生成式AI代理已經成為提升企業生產力的重要工具，但若缺乏完善的治理框架與安全防護，恐導致資料外洩、錯誤決策等高風險問題。此次推出的新軟體不僅可針對AI代理進行「紅隊測試」，模擬攻擊場景找出潛在漏洞，還能偵測「影子代理」 (Shadow Agent)等潛在威脅，全面提升企業應用AI的安全防線。
此次更新重點包含：
• 統一的AI治理與安全風險視圖
新軟體整合watsonx.governance的AI生命週期治理能力，與Guardium AI Security的AI安全防護工具，讓企業可針對AI代理進行全方位風險管理，並且符合包含歐盟《人工智慧法案》、ISO 42001、NIST AI RMF等在內的12項國際標準與框架。
• 全面自動化的安全測試與防護
IBM與AllTrue.ai合作，擴展Guardium AI Security功能，支援雲端、原始碼庫、嵌入式系統的AI應用偵測，提供去中心化環境下的風險可視化。同時，內建自動化「紅隊測試」機制，可針對AI模型與應用進行模擬攻擊，分析敏感數據外洩、提示操控等常見威脅。
• AI代理生命週期管理能力升級
watsonx.governance則新增代理表現監控、風險評估、審計追蹤等功能，可自動分析AI代理的回答正確性、上下文理解與忠誠度表現，協助找出潛在風險來源。此外，預置的 Compliance Accelerators 工具，可快速對應各地法規要求，協助企業完成合規檢測。
IBM強調，此次全新治理與安全整合，將協助企業在佈署AI代理、生成式AI等創新應用時，不僅加快導入速度，更確保安全、合規與信任，建立長期穩健的AI發展基礎。
目前，這些新功能已陸續於IBM Guardium AI Security及watsonx.governance上線，相關自動化整合將於2025年底前全面推出，未來也將擴展至AWS雲端印度區域，加速全球市場布局。
IBM也強調，AI風險治理能力的強化，不僅是技術創新，更是產業信任機制的基礎，未來將持續擴大watsonx生態，協助更多企業實現可信任的AI應用規模化發展。
