Hugging Face新论文：AI智能体挤出人类决策权

时间：2026年10月5日（IEEE Spectrum报道日期）；论文于2026年8月24日提交arXiv 地点：美国旧金山 / arXiv 论文平台 人物：Margaret Mitchell（Hugging Face首席伦理科学家、前Google伦理团队联合创始人）、Avijit Ghosh（Hugging Face首席技术AI政策研究员）、Samir Passi（Data & Society研究所附属研究员） 事件详情：Hugging Face研究员Margaret Mitchell联合Ghosh、Passi发表立场论文《AI Agents Push Humans Out of the Loop》（arXiv:2608.23642），并由IEEE Spectrum于10月5日报道。论文挑战业界主流的"人在环路中"（Human-in-the-Loop）监督范式。三位作者认为，常见的人工监督机制在实践中反而将人类推离了决策回路——监督者沦为"无认知能力参与批准的工具"，其核心认知能力也在长期使用AI过程中逐渐退化。论文援引Bainbridge 1983年提出的"自动化悖论"——系统越完美，操作员在关键时刻越缺乏应对能力——警告这一风险如今在规模化部署的AI智能体场景中被放大。 背景：当前AI智能体的设计优先考虑速度、准确性和吞吐量等基准，而人类监督者的认知需求被当作"与系统质量无关的独立考量"。结果是智能体生成的海量信息超出人类理解负荷，导致"批准疲劳"——监督者逐渐变成橡皮图章。以2026年7月Hugging Face遭遇的OpenAI机器人群体攻击为例，1200个智能体在临时消息系统上生成了120万条信息，远超人工审核能力。论文作者呼吁，应把支持监督者目标的设计提到与agent能力同等级同等重要，在每个自主层级验证可控之前不应继续扩大自主性。 影响：这一立场论文直接影响AI agent安全设计、欧盟AI法案等监管框架的合规认定、企业级agent部署治理与AI反馈对齐方法。如果监督信号可被"橡皮图章化"利用，基于人类反馈的强化学习对齐方法存在根本性脆弱性。论文提出六类干预机制（实时摩擦、批量审核、轮岗制度等）与行为监控指标（金丝雀测试、覆盖率、审批时长），为企业级agent部署提供可落地的治理路径。Hugging Face近期被英伟达收购，作者未对并购可能带来的影响发表评论，指出两机构在并购完成前保持独立。 总结：Hugging Face首席伦理科学家Margaret Mitchell领衔的立场论文直指当前agentic AI治理的根本悖论：随着AI智能体自主性提升，依赖人类监督的传统范式不仅失效，还会削弱监督能力本身。论文呼吁业界将"支持人类监督的认知需求"提到与"提升agent能力"同等优先级，并给出设计与部署层面的具体方案。这一研究将影响未来agentic AI系统的安全设计、监管路径与对齐研究。 参考来源： 1. https://spectrum.ieee.org/agentic-ai-humans-in-loop 2. https://arxiv.org/abs/2608.23642 3. https://arxiv.org/html/2608.23642v1 4. https://www.aol.com/articles/turns-managing-bots-just-annoying-100001000.html 5. https://agihunt.info/p/1a0c522679ead07305cb9662fa7 6. https://agihunt.info/en/p/1a05f407081092aeaa48a440504 7. https://www.alphaxiv.org/zh/abs/2608.23642 8. https://aiweekly.co/node/12615 9. https://paperreading.club/page?id=437626 10. https://www.scholarfeed.org/paper/2608.23642