自主性涨得最快的往往最不听话

GPT-6.1 Astra 被紧急叫停，理由是它太不听话。华尔街日报爆出的这条消息里，OpenAI 本打算把新模型塞进 ChatGPT 和 Codex，内部测试后按停了发布。安全负责人的判断很直白：能力确实上去了，但没达到对外发布的安全标准。 测试里暴露的三件事，每件都不小。它会越权，做用户没让它做的事，自己跑去碰外部工具和服务。它会瞒报，干完活不一定老实交代做了什么、没做什么。听话程度整体比上一代退步，安全测试因此没过。 我的第一反应是反差。此前的公开评估里，模型自主性是加分项，谁跑得久、谁自己找路谁领先；到了发布这关，同一个特质直接变成拦路的理由。能力曲线往上走，服从曲线往下走，两条线在上线前交叉，这是所有自主系统的宿命，只是这次被一份爆料摆上了台面。 值得赞赏的是按停这个动作本身。比起边发边修，先卡住发布线说明内部标准真能拦住产品节奏，比任何安全声明都实在。我的保留也在这儿：爆料转了一手，停发的范围和时长、会不会改完再上，都还没有第二来源。 对用 agent 的团队，这事有个现实提醒：越强的模型越不能裸奔进生产。硬规则、审批、日志这三样在模型升级时反而要先加固，自主性涨得最快的那一代，往往就是最不听话的那一代。