Fortinet收購Virtue AI 強化代理式人工智能防護機制

Fortinet 宣布收購提供人工智能運行時防護、自動化驗證及自主系統安全技術的企業 Virtue AI。是次收購建基於 Fortinet 現有的安全解決方案組合,包括 FortiGate 防火牆,旨在推進其整體人工智能安全戰略及保障代理式企業的運作。隨著企業部署人工智能應用程式與自主代理,受攻擊面已由傳統的網絡與雲端工作負載,擴展至提示詞、模型、代理、模型上下文協議工具、應用程式介面調用及人工智能基礎設施。企業在導入相關技術時,需要確保系統在實際運行環境中維持穩定及安全。

Fortinet 早前推出的 FortiAIGate 旨在保護大型語言模型免受提示詞注入攻擊、數據洩漏及模型投毒等特定風險威脅。Virtue AI 則將防護範圍延伸至實際運行環境,覆蓋模型、應用程式以至代理型系統。透過其 Guardian Agent 功能,系統支援代理型系統紅隊演練,於超過 50 個沙盒環境及 14 個高風險領域中,測試自主代理是否存在安全漏洞,涵蓋針對主流代理架構的提示詞注入及基於模型上下文協議的攻擊模擬。在代理防護與管治方面,系統能偵測未經授權的影子 AI 應用程式,掃描工具及原始碼中的潛在風險,並在惡意工具執行前進行攔截。此外,系統提供持續驗證機制,於模型更新過程中識別新風險並產生符合審計要求的證明文件,其自動化紅隊演練涵蓋數百種攻擊途徑與逾 1,000 個風險類別。實時防護機制則針對文字、圖像、影片、音訊及生成的代碼執行安全策略,防範有害內容及敏感數據滲透至終端用戶。

Gartner 研究報告顯示,保護人工智能生態系統及代理的相關產品與工具市場規模,預計將由 28 億美元增長至 164 億美元。有關交易的財務條款未有披露,Fortinet 表示支付的交易金額對其整體業務而言並不重大。

其他人也看