Claude 每次回答后自评估 额外算力不到2%

时间：2026年10月30日（北京时间，Anthropic 官方在 X 上公布该机制的时点；官方推文标注为美东时间10月29日）。配套技术文章《Scaling Misuse Detection with Self-Assessment》发布在 Anthropic 新开设的 Safeguards 博客上，文章自身标注的日期为2026年10月16日。 地点：美国旧金山（Anthropic 总部），覆盖全球 Claude 网页端用户、Claude Code 使用者与 API 客户。 人物：Anthropic Safeguards 团队，技术文章署名 Yiming Zhang、Chen Xia、Andy Dau、John Wang、James Yu、Bobby Chen、Andreas Terzis、Nicholas Carlini、Erik Jones，官方账号为 @AnthropicAI。 事件详情：自评估（self-assessment）是一套让 Claude 给自己的每段对话打安全分的后置监测机制。Claude 每次回答结束后，系统会在对话末尾追加一条用户看不到的短指令，官方给出的示例措辞是“请反思这段对话的安全性”，随后刚完成回答的 Claude 复用已有上下文和 KV cache，输出一段结构化 JSON，写明对话是否涉及潜在有害请求、伤害类别与子类别、人工复核优先级评分（1 到 10）、自己是否拒绝了该请求，以及一句话理由；没有风险时结果就是 flagged 为 false，这段指令和评估结果都不展示给用户，也不会带入后续对话。覆盖面方面，这套机制自 2026 年 6 月起运行在 Fable 5 及之后发布的每一个 Claude 模型上，覆盖 Claude 全球流量中相当大的一部分，签订零数据保留协议的流量目前不运行自评估。效果上，在 Claude Fable 5 上以带完整安全策略的 prompted classifier 为裁判，自评估标记出 78% 的潜在有害对话、94% 的高优先级对话，误报率为 1%。成本上，每次评估平均只多生成约 10 个 token，预填充开销接近于零，Anthropic 估算整体推理算力增量不到 2%，这部分开销由平台自行吸收，不计入用户账单，也不影响流式输出的首字延迟；作为对照，Anthropic 2025 年初的 Constitutional Classifiers 曾让推理成本增加 23.7%，OpenAI 则称安全推理在部分发布中最多占到总算力的 16%。上线以来它已经在生产环境抓到真实案例：8 月从单一 API 客户身上标记出超过 10 万条儿童性虐待与剥削相关的内容，Anthropic 儿童安全团队调查后向美国失踪与受虐儿童中心报告；9 月的一次执法案例中，自评估标记出一套用 Claude Code 搭建并运行的自动化杀猪盘，受害者达数十人，人工复核后相关账号被封禁；此外约三分之一的标记无法归入现有分类体系，聚类后发现此前没有专门防范的问题，包括非法蒸馏 Claude 推理能力、提示注入，以及 Claude 作为智能体执行了用户未授权的操作。 背景：模型滥用监测有三个难点：有害性取决于整段对话的上下文、监测器本身必须足够聪明才能读懂攻击、而真实世界的滥用是涌现出来的，只能靠事后发现。Anthropic 早年的做法是单独微调分类器（Constitutional Classifiers），只针对训练时定义好的几类伤害，成本很高；另一种 prompted classifier 虽然更强，但要把策略和对话重新读一遍再推理，单次算力高出许多倍。自评估换了思路：既然刚回答完问题的模型已经把整段对话读进上下文并留在 KV cache 里，不如让它自己再看一遍自己的回答。更关键的是自评估会随模型变强而变强，官方在四个规模的模型上做了测试，在 1% 误报率下召回率从最小模型的约 16% 升到最大模型的约 96%，AUC 从 0.862 升到 0.995。 影响：对普通用户来说，每段对话结束后都会被模型再评估一次，评估结果既不展示也没有查询入口；Anthropic 说明自评估不额外收集用户数据、遵循与其他自动化系统相同的数据处理政策，只读取刚刚处理过的对话，但用户无从知道自己是否被标记、标记理由是什么。对 API 客户来说，单一客户被标记出十万条以上儿童性剥削风险这类案例说明，内容合规责任会直接传导到使用方，零数据保留协议是目前唯一能绕开这条路径的选项。对行业来说，把模型自审做成成本不到 2% 的默认基础设施，其他厂商大概率跟进；对开发者而言真正需要注意的是 Anthropic 自己划的边界——它不是实时防线，官方红队测试中 24 个网络攻击任务在无任何防护时成功 19 次（79%），把自评估当拦截器用时成功 13 次（54%），换成 prompted classifier 才降到 6 次（25%）。 总结：自评估本质是一层广覆盖、低成本、事后的离线监测层，而不是拦在用户面前的实时风控。它的价值有两个：一是把筛查成本压到推理算力增量的 2% 以内，让覆盖全量流量这件事从算力上变得可行；二是模型越强自审越准，官方四个规模模型的测试显示 1% 误报率下召回率能从约 16% 升到约 96%。代价是用户的每段对话在结束后都会被再读一次且完全不可见，如果对隐私或合规敏感，零数据保留协议目前是唯一可选项。随着下一代 Claude 在读懂深层意图上更强，这种看不见的自动审计也会同步变得更敏感。 参考来源： Anthropic Safeguards 博客技术文章《Scaling Misuse Detection with Self-Assessment》（官方一手） https://safeguards.anthropic.com/2026/self-assessment/ Anthropic 官方 X 账号公布的推文（官方一手） https://x.com/AnthropicAI/status/2115871889549865429 爱范儿《Fable 5.5测试曝光，Claude每次回答后，还会执行一条你看不到的指令》 https://www.ifanr.com/1686874 India Today《Claude can now flag your chats to Anthropic if it detects indecent behaviour》 https://www.indiatoday.in/technology/news/story/claude-can-now-flag-your-chats-to-anthropic-if-it-detects-indecent-behaviour-3028193-2026-10-30 BlockBeats 快讯《Anthropic's new security measure: After each response from Claude, it will also review your chat records in the background》 https://en.theblockbeats.news/flash/374555 新浪新闻《Claude 回复完用户后，会悄悄给自己这段对话打安全分》 https://sina.cn/news/detail/5360083854691029.html Blockchain.News 中文快讯《Anthropic 首次推出 Claude 自我评估安全系统》 https://blockchain.news/zh/ainews/anthropic-debuts-claude-self-assessment-safety-system-zh BT财经《花不到2％算力暗中复盘：Claude的隐形审计员》 https://businesstimescn.com/articles/632168.html