微软近日低调发布 Agent Governance Toolkit 开源项目，旨在帮助企业将 AI Agent 安全、高效地投入生产工作流，实现对执行过程的实时监控与精细管理。该项目直击 OWASP 最新发布的 Agentic AI 十大威胁清单，重点防范提示词注入、恶意 Agent 以及工具滥用等运行时风险，为 AI Agent 的企业级落地提供全面安全保障。

应对分布式 AI 环境的安全挑战

微软首席工程经理 Imran Siddique 在官方博客中表示，该工具包新增运行时安全层，通过策略执行机制有效缓解提示词注入等风险，并大幅提升复杂多步骤工作流中 Agent 行为的透明度和可控性。

他指出，AI 系统正日益演变为缺乏监管的分布式环境——多个不可信组件共享资源、自主决策并与外部交互，却缺少有效监督。这促使微软借鉴操作系统、服务网格和站点可靠性工程（SRE）的成熟设计模式，为 AI Agent 生态引入结构化隔离与控制机制。

Building the 7 Layers of a Production-Grade Agentic AI System | by Fareed Khan | Level Up Coding

工具包原生支持 Python、TypeScript、Rust、Go 和 .NET 等多种编程语言，满足多样化开发需求。

全面覆盖 OWASP 十大核心风险

该工具包专为 OWASP Agentic AI 十大风险量身定制，包括：

• 目标劫持
• 工具滥用
• 身份冒用
• 供应链风险
• 代码执行漏洞
• 记忆污染
• 不安全通信
• 级联故障
• 人机信任滥用
• 恶意 Agent

OWASP's Top 10 Agentic AI Risks Explained

六大核心组件一览

• Agent OS：策略执行层
• Agent Mesh：安全通信与身份框架
• Agent Runtime：执行控制环境
• Agent SRE：可靠性保障模块
• Agent Compliance：合规性管理
• Agent Lightning：强化学习监督系统

无缝集成现有开发生态

Siddique 强调：“我们从第一天就坚持框架无关的设计理念。每个集成点都对接原生扩展接口——无论是 LangChain 的回调处理器、CrewAI 的任务装饰器、Google ADK 的插件系统，还是微软 Agent Framework 的中间件管道。添加治理功能无需重写 Agent 代码。”

AI Agent Framework Security: LangChain, LangGraph & More

这种设计显著降低了集成门槛与风险，开发者无需重构现有应用即可为生产系统引入强大治理控制。目前，LlamaIndex 的 TrustedAgentWorker 等集成方案已成功落地实际生产环境。

开放公测与未来规划

该工具包现以 MIT 许可证开放公测，采用模块化架构，支持独立安装。微软计划未来将其移交基金会管理，并正与 OWASP Agentic AI 社区紧密合作，共同推进行业治理标准建设。

Observing and evaluating AI agentic workflows with Strands Agents SDK and Arize AX | Artificial Intelligence

通过 Agent Governance Toolkit，企业可轻松构建可信、可控、可审计的 AI Agent 生产体系，加速 AI 创新的同时守住安全底线。项目已在 GitHub 开放，欢迎开发者立即体验！