微軟開源AI代理運行時安全工具包

4 月 2 日，微軟宣布推出全新的開源軟件項目 Agent Governance Toolkit，試圖在自主 AI 代理（autonomous AI agents）領域建立運行時安全治理體系。該工具包采用 MIT 許可證開源，面向希望在生產環境中更可控地部署智能體應用的開發者與企業。

微軟聲稱，這一工具包是首個覆蓋 OWASP 去年提出的全部十項“代理式 AI 風險”（agentic AI risks）的工具集。這十項風險包括：目標劫持（goal hijacking）、工具誤用（tool misuse）、身份濫用（identity abuse）、供應鏈風險、代碼執行風險、內存投毒（memory poisoning）、通信不安全、級聯故障（cascading failures）、人機信任被利用以及“流氓代理”（rogue agents）等，旨在針對當前大模型驅動智能體在執行復雜任務時可能出現的系統性安全問題。該項目目前支持 Python、Rust、TypeScript、Go 和 .NET 等多種語言生態，面向主流開發環境提供統一的治理能力。

在具體架構上，Agent Governance Toolkit 由多個模塊組成，分別對應智能體運行時生命周期中的關鍵安全環節。Agent OS 被定位為策略引擎，用于在每一次代理行為實際執行前進行攔截和策略評估，從而在動作層面對不安全或越權操作進行阻斷。Agent Mesh 則聚焦于代理與代理之間的安全通信，確保多代理協作場景下的信息傳輸得到保護，降低數據泄露和指令被篡改的風險。

針對執行環境與運行級別管理，微軟提供了 Agent Runtime，用于實現動態的執行“環”（execution rings），使不同敏感度和權限級別的操作可以在隔離的安全域中運行。同時，Agent SRE 模塊用于提供各類運行時安全防護措施與穩定性保障，幫助開發者在生產環境中監控與處置異常行為。圍繞合規要求，Agent Compliance 支持自動化合規驗證及合規等級評定，為企業內部審計和外部監管需求提供技術支撐。

在生態與擴展性方面，Agent Marketplace 用于管理插件生命周期，從引入、更新到下線提供一體化治理能力，幫助控制第三方工具與組件帶來的供應鏈和依賴風險。針對智能體的訓練過程，Agent Lightning 模塊則面向強化學習等訓練場景提供治理能力，試圖在模型不斷迭代和策略優化過程中同樣落實安全與合規要求，而不僅僅停留在推理與執行階段。

微軟強調，該工具包是“從設計之初即開源”（open source by design），并采用 MIT 許可證開放代碼，以便社區和企業在現有基礎上進行擴展與集成。對于愿意將 AI 代理安全托付給微軟解決方案的用戶，可以通過微軟開放源代碼博客了解更多技術細節，項目源代碼目前已托管在 GitHub 倉庫中，歡迎開發者參與試用與反饋。