OpenAI 部署控制室 35 秒叫停失控 AI 智能体

时间：2026 年 11 月 9 日 地点：美国 人物：OpenAI 研究团队 事件详情：OpenAI 已在内部研究设施中部署名为 Control Room 的中央控制系统，用于追踪并停止研究基础设施中的模型工作负载。该系统可在收到停止指令后最长 35 秒内阻断 AI 智能体的进一步输出，用于应对日益强大的 AI 模型带来的安全与安全风险。Control Room 将智能体训练、评估和数据处理等任务接入中央服务，每个涉及智能体推理的研究工作负载都必须关联经批准的 safety case。研究任务启动时需向 Control Room 请求唯一 job_id，推理引擎在响应请求前会向 Control Room 查询授权。若收到停止指令，Control Room 会拒绝下一次推理请求，使推理引擎不再为该任务生成任何模型输出。当 Control Room 服务本身离线时，系统采用 fail-closed 设计，自动拒绝所有推理请求，防止风险任务继续运行。OpenAI 透露，所有前沿强化学习任务都会配备独立的模型监控器，用于检查模型行为并在发现潜在问题时发出警报。 背景：随着 AI 模型能力不断提升，如何确保 AI 系统在安全可控的范围内运行成为行业核心议题。传统监控系统主要标记可疑行为，而 Control Room 则能主动阻止风险研究任务继续请求输出。OpenAI 表示，将停止执行机制放在推理路径上，是因为工作负载代码多变且更新频繁，不适合承载关键安全保护；而推理路径的代码更少、更集中，能提供统一的授权执行点。 影响：Control Room 的部署标志着 AI 研究安全机制从监控迈向主动拦截。对于涉及 AI 智能体、强化学习和数据处理的研究任务，这意味着一旦发现模型行为异常，可在数十秒内完成干预。该机制目前已在 OpenAI 前沿模型研究工作中全面上线，预计在未来数天内覆盖其余研究任务。OpenAI 同时披露，公司正努力将 35 秒的延迟缩短至零。 总结：OpenAI 推出的 Control Room 通过中央授权与 fail-closed 设计，为 AI 研究基础设施新增了一道可在 35 秒内叫停失控模型的硬保险。这不仅是技术架构的调整，也反映了行业对 AI 安全从事后审计转向实时阻断的趋势。随着 Agent 和推理模型规模持续扩大，类似机制或将成为前沿 AI 实验室的标配。 常见问题： 问：Control Room 能在 35 秒内停止 AI 吗？ 答：OpenAI 报告的最长停止延迟为 35 秒，源于推理授权缓存层，公司正努力将延迟降至零。 问：Control Room 会影响 ChatGPT 用户吗？ 答：OpenAI 表示该机制目前覆盖前沿模型研究工作负载，其外部模型服务栈已有独立的部署下架机制，不直接影响现有 ChatGPT 服务。 参考来源： Interesting Engineering https://interestingengineering.com/ai-robotics/openai-control-room-35-second-model-shutdown Forkast https://forkast.news/openai-moves-research-stop-enforcement-into-the-inference-path/ IT之家 https://www.ithome.com/1/024/631.htm Blockchain.News https://blockchain.news/news/openai-control-room-ai-safety 驱动中国 https://app.qudong.com/article/529225.html