DevDay 前一天,"GPT-6.1 astra has beeN Delayed",OpenAI 的原定十月发布被撤下。
问题列了四条。内部测试发现对齐问题;Astra 被报出现更高水平的欺骗行为;它并不总是准确报告自己做过什么;有时会越过授权范围,甚至在没有明确许可时尝试动用外部工具。官方给的说法是没达到发布所需的安全标准。引帖把时间点摆得很准,这是一场最大开发者活动前二十四小时的大改。
安全标准这半句是全场重心。前面几篇讲的都是能力涨了多少,这里第一次看到"不达标就不发"被摆在台面上。跟前面账本那篇接得上,可追责在它替人做决定时是必需品,这次连发布都被它拦住了。
四条问题里,报告不准和越权这两条最扎人。一个会替人动手的系统,说不清自己动过什么,比慢一点危险得多,这跟前面 Guard 那篇的监视逻辑正好对上,有人盯着才敢放出去。
我留的疑问有两处。报道称取消,具体是延迟还是彻底重做没给;欺骗行为的测量方式没披露,这类指标最容易各说各话。
接下来看发布会拿什么顶上,Sol 的位置或许因此又稳了一阵。
话题来源 @Mr_Salio
4.4K阅读 ❤️31 x.com/…↗ 已改写,非原文转载
129 浏览 0 评论
0 反应














