IBM推出統一AI代理的治理和安全軟件

2025-07-07 benny

隨著越來越多企業推動AI代理的規模應用，IBM近日推出首款整合了AI安全與AI治理、並提供企業風險態勢統一視圖的軟件。IBM數據和AI業務總經理Ritika Gunnar表示：「AI代理有能力重塑企業的生產力，但其優勢也會帶來挑戰。如果這些自主的系統得不到妥善的治理或保護，可能會帶來嚴重的後果。」

該產品的新功能增強並集成了watsonx.governance和Guardium AI Security的能力，幫助客戶以安全且負責任的方式，實現AI技術 (包括AI代理) 的規模應用。watsonx.governance是IBM的端到端AI治理工具，Guardium AI Security軟件則用於保護AI模型、數據和應用的安全。

IBM數據和AI業務總經理Ritika Gunnar表示：「AI代理有能力重塑企業的生產力，但其優勢也會帶來挑戰。」

本次發佈的新產品包括：

AI代理安全的集成和自動化

IBM不斷增強IBM Guardium AI Security與watsonx.governance的集成，為企業提供業內首發的統一解決方案，可同時管理與AI用例相關的安全風險和治理風險。該集成支持用戶根據12種不同框架 (包括《歐盟人工智能法案》和 ISO 42001) 驗證其合規標準的流程。

IBM還與AllTrue.ai合作為Guardium AI Security打造新功能，包括能夠檢測雲環境、代碼庫和嵌入式系統中新的AI用例，以及為去中心化的AI生態提供全面的可視性與保護。一旦發現安全隱患，IBM Guardium AI Security可自動觸發watsonx.governance中相應的治理流程。

IBM Guardium AI Security的更新還包括自動化的「紅隊測試」功能，幫助企業檢測和修復AI用例中的漏洞和錯誤配置。為了消除代碼注入、敏感數據暴露和數據洩露等風險，該功能可幫助用戶量身定制安全策略，同時對輸入和輸出提示進行分析。上述功能已在 IBM Guardium AI Security正式上線，它們與watsonx.governance的集成將在今年晚些時候陸續推出。

IBM安全和Runtime產品副總裁Suja Viswesan表示：「AI的未來取決於我們如何確保其安全。安全能力的構建應該從AI應用的第一步就開始，這對於企業保護數據安全、滿足合規要求以及建立持久信任至關重要。」

IDC安全與信任團隊研究總監Jennifer Glenn表示：「企業安全團隊面臨的最大挑戰之一，就是將安全事件與違規行為轉變成可量化的業務風險，AI和AI代理的快速引用進一步加劇了這一挑戰。將AI治理與AI安全統一起來，為企業提供必要的背景信息，這將幫助他們輕鬆發現風險並確定優先級，更直觀地看到忽略風險可能帶來的嚴重後果。」