微软悄然推出 Agent Governance Toolkit 开源项目：AI Agent 生产治理新利器

微软近日低调发布Agent Governance Toolkit开源项目旨在帮助企业将 AI Agent 安全、高效地投入生产工作流实现对执行过程的实时监控与精细管理。该项目直击 OWASP 最新发布的Agentic AI 十大威胁清单重点防范提示词注入、恶意 Agent 以及工具滥用等运行时风险为 AI Agent 的企业级落地提供全面安全保障。应对分布式 AI 环境的安全挑战微软首席工程经理 Imran Siddique 在官方博客中表示该工具包新增运行时安全层通过策略执行机制有效缓解提示词注入等风险并大幅提升复杂多步骤工作流中 Agent 行为的透明度和可控性。他指出AI 系统正日益演变为缺乏监管的分布式环境——多个不可信组件共享资源、自主决策并与外部交互却缺少有效监督。这促使微软借鉴操作系统、服务网格和站点可靠性工程SRE的成熟设计模式为 AI Agent 生态引入结构化隔离与控制机制。Building the 7 Layers of a Production-Grade Agentic AI System | by Fareed Khan | Level Up Coding工具包原生支持 Python、TypeScript、Rust、Go 和 .NET 等多种编程语言满足多样化开发需求。全面覆盖 OWASP 十大核心风险该工具包专为 OWASP Agentic AI 十大风险量身定制包括目标劫持工具滥用身份冒用供应链风险代码执行漏洞记忆污染不安全通信级联故障人机信任滥用恶意 AgentOWASPs Top 10 Agentic AI Risks Explained六大核心组件一览Agent OS策略执行层Agent Mesh安全通信与身份框架Agent Runtime执行控制环境Agent SRE可靠性保障模块Agent Compliance合规性管理Agent Lightning强化学习监督系统无缝集成现有开发生态Siddique 强调“我们从第一天就坚持框架无关的设计理念。每个集成点都对接原生扩展接口——无论是 LangChain 的回调处理器、CrewAI 的任务装饰器、Google ADK 的插件系统还是微软 Agent Framework 的中间件管道。添加治理功能无需重写 Agent 代码。”AI Agent Framework Security: LangChain, LangGraph More这种设计显著降低了集成门槛与风险开发者无需重构现有应用即可为生产系统引入强大治理控制。目前LlamaIndex 的 TrustedAgentWorker 等集成方案已成功落地实际生产环境。开放公测与未来规划该工具包现以 MIT 许可证开放公测采用模块化架构支持独立安装。微软计划未来将其移交基金会管理并正与 OWASP Agentic AI 社区紧密合作共同推进行业治理标准建设。Observing and evaluating AI agentic workflows with Strands Agents SDK and Arize AX | Artificial Intelligence通过 Agent Governance Toolkit企业可轻松构建可信、可控、可审计的 AI Agent 生产体系加速 AI 创新的同时守住安全底线。项目已在 GitHub 开放欢迎开发者立即体验