全球資安解決方案供應商 Fortinet 於週二（8月18日）宣布，已收購人工智慧代理（Agent）與模型保護平台 Virtue AI。此次併購旨在強化 Fortinet 在 AI 應用執行時的安全防護能力，並確保自主系統的治理。
Fortinet 計畫將 Virtue AI 的技術整合至其現有的 FortiAIGate 解決方案中。此整合將擴展現有的測試與控制範圍，從人與 AI 的溝通延伸至 AI 代理的行為與工作流程。FortiAIGate 能夠監控員工是否在大型語言模型（LLM）的提示中發送私人資料等狀況。透過 Virtue AI 的技術，企業部署 AI 時將能有效監控 AI 代理的行為，確保其在預設政策範圍內運作。
Fortinet 產品行銷執行副總裁 Anthony James 表示，Virtue AI 著重於 AI 基礎設施內部的全面監控，包括 AI 代理的行為表現以及模型的運作方式，確保它們都符合既定政策。他解釋，AI 代理是一種能夠自主執行任務並與 LLM 互動的程式碼，例如自動下載財務資料並進行分析。透過將 AI 代理置於模擬環境（沙盒）中進行壓力測試，可以確保其在實際部署前不會做出不當行為。
Virtue AI 提供的技術主要包含四大功能：針對 AI 代理與模型進行「紅隊演練」（攻擊性測試）及「藍隊防禦」（防禦性措施）。其中，針對 AI 代理的攻擊性測試工具 AgentSuite-Red，會將企業內部工作流程工具置於沙盒模擬環境中，並透過真實攻擊情境進行壓力測試。與 Anthropic 和 OpenAI 等 AI 開發商用於基準測試模型的沙盒不同，AgentSuite-Red 能模擬超過 50 種不同應用程式的行為。而針對 AI 代理的防禦性措施 AgentSuite-Blue，則能檢查代理是否符合 Model Context Protocol、技能、提示或存取控制等預定義政策，並辨識代理是否與未授權的服務互動。
此外，Virtue AI 也提供針對商用與內部訓練 LLM 的紅隊演練工具 VirtueRed 和藍隊防禦工具 VirtueGuard，以確保這些模型安全可靠，並能產生正確結果，避免輸出敏感或不當內容。這些技術未來都將整合至 FortiAIGate 解決方案，提供更完整的安全防護。
Virtue AI 於 2024 年創立，約有 30 名員工，其核心團隊由來自史丹佛大學（Stanford University）、加州大學柏克萊分校（UC Berkeley）及伊利諾大學厄巴納-香檳分校（University of Illinois Urbana-Champaign）的教授組成。儘管 Fortinet 收購了 Virtue AI 的技術資產及執行長，但該公司的大部分員工已在 Fortinet 交易完成前，轉至 Meta 旗下的 Superintelligence Labs 服務。此次交易的財務細節並未對外公開。