微软AI规则草案：模型不得抵抗人类关机

时间：2026年9月14日（草案发布，亚洲时间9月15日同步报道） 地点：美国华盛顿州雷德蒙德 人物：微软AI负责人Mustafa Suleyman；微软CEO Satya Nadella 事件详情：微软AI部门2026年9月14日正式发布《Humanist AI Code of Conduct》第一版草案，启动为期六周的公开咨询。这份37页文件由Microsoft AI（MAI）部门起草，适用于MAI-Transcribe-2、MAI-Thinking-1、MAI-Code-1.1-Flash、MAI-Image-2.6、MAI-Voice-2五款自研模型。草案明确写入"人比AI重要"作为最高前提，规定MAI模型"绝不能抵抗"人类的中断、覆盖、纠正或关机请求。Mustafa Suleyman在X平台公布文件时称之为未来模型的"宪法式"治理框架，强调任务可以失败但控制权不能失效。 背景：草案起草耗时5到6个月，源自微软2025年11月提出的人本超级智能（Humanist Superintelligence）框架。本次发布时机正值Anthropic CEO Dario Amodei呼吁行业放缓、OpenAI首席科学家Sam Altman表态支持的当口，特朗普政府则公开反对任何放缓议案。微软选择"不暂停、不轻视"的第三条道路，发布可量化的行为清单并接受公众监督。微软明确表示当前在售MAI模型尚未按该文件训练，修订版预计2026年底发布、用于2027年起的模型训练。 影响：这是首家顶级AI厂商把"可关机性"写进具有约束力的内部准则，标志着前沿AI治理从"伦理声明"进入"工程规范"阶段。文件强调任务可失败但控制权不能失效，反映Agent时代安全关注点从内容准确性转向行为可控性。OpenAI、Anthropic、Google近期数周持续就AI安全进行高层磋商，行业自律性立法正加速形成。 总结：微软以Humanist AI行为准则草案回应Anthropic放缓呼吁和OpenAI安全承诺，承诺其MAI模型永不被设计为抗拒人类控制，并将这一承诺公开为可被外界审视的37页工程规范。六周公开咨询后，文件将作为2027年起训练新一代MAI模型的指导原则。 参考来源： 1. https://microsoft.ai/news/mai-code-of-conduct 2. https://thenextweb.com/news/microsoft-says-its-ai-models-will-never-resist-being-shut-down 3. https://interestingengineering.com/ai-robotics/microsoft-machine-model-safety-rules 4. https://tech-quire.com/articles/microsoft-ai-humanist-code-of-conduct 5. https://www.thedailystar.net/news/technology/news/microsoft-proposes-ai-code-keep-future-models-under-human-control-4273566 6. https://sea.peoplemattersglobal.com/news/ai-and-emerging-tech/microsoft-drafts-code-of-conduct-to-keep-ai-under-human-control-52095 7. https://www.techi.com/trump-ai-hoax-microsoft-code-of-conduct-labs-standards-body 8. https://news.qq.com/rain/a/20260915A09FI400