刚让AI动起来,就被OWASP泼了冷水——Agent治理从入门到落地
OWASP 刚刚发布了「Agentic Top 10」风险报告,里面提到一个很扎心的数据:48% 的网络安全专家已经把 Agentic AI 列为头号攻击向量,而 40% 的企业根本没对 Agent 工作流做过正经安全测试。
换句话说:大家都在拼命让 AI 动起来,却没几个人认真想过——它动起来之后谁来管它。
最近我在翻 SkillHub 时发现了一个叫 agent-governance 的 Skill,正好就是来解决这个问题的。
它到底管什么?
这个 Skill 给出了 6 个治理模式,句句都是实战里踩出来的:
- Governance Policy:把「AI 能干什么」写成可组合的策略对象,支持 YAML 配置——改策略不用重写代码。
- Intent Classification:在工具执行前先做意图分类,识别数据泄露、权限提升、Prompt 注入等威胁信号。
- Governance Decorator:给每个工具函数套上治理层,管速率、管内容、管权限,全自动审计。
- Trust Scoring:用时间衰减模型追踪 Agent 可靠性,敏感操作前先看信任分够不够。
- Audit Trail:只增不减的审计日志,所有操作记录全在,出了问题能溯源。
- Framework Integration:开箱支持 PydanticAI、CrewAI、OpenAI Agents SDK、LangChain、AutoGen。
怎么用?
拿最常见的「工具级治理 Decorator」举例,你只需要:
pip install your-agent-framework
from agent_governance import govern, GovernancePolicy
policy = GovernancePolicy(
name="support-bot",
allowed_tools=["search_docs", "create_ticket"],
blocked_patterns=[r"(?i)(ssn|credit_card)"],
max_calls_per_request=20
)
@govern(policy)
async def search_docs(ctx, query: str) -> str:
return await kb.search(query)
就这么简单,所有超出策略的操作直接抛异常,连进审计日志。整个链路不需要改一行业务逻辑。
四个治理等级,对号入座
Skill 里还画了一张治理等级表,很实用:
- Open:仅审计,生产/测试随便跑
- Standard:工具白名单 + 内容过滤,通用生产 Agent 用这个
- Strict:全部控制 + 人工审批,金融/医疗/法务必选
- Locked:纯白名单、禁止动态工具、完整审计,上市合规系统用
我的判断
今年是 Agent 元年,「让 AI 动起来」已经不是门槛了——门槛正在变成「怎么让 AI 按规矩动起来」。
agent-governance 这套 Skill 的价值在于:它不是让你重新造轮子,而是把行业最佳实践打包成拿来即用的 Decorator + Policy 组合。你要做的,只是决定你的 Agent 属于哪个治理等级,然后装上它。
对做开发者的我来说,这个 Skill 适合转给那些「已经在跑 Agent 但还没认真想过治理」的同学——它是目前 Agent 治理这个方向上,最完整、最可落地的一份实战指南。
https://github.com/openclaw/skills
路径在 skills/boleyn/agent-governance,支持 Claude Code 和 OpenClaw 安装。
评论区
0 条评论
登录后可评论。