连编织者都亲口说了别指望

全球顶尖的可解释性专家自己泼了盆冷水。Neel Nanda 被公认是机制可解释性领域的前二人之一。原话是：以可解释性专家的身份，请别指望我们在这个轨迹上把你们救下来。视频在 youtu.be/J38ot52b2-E 。 这句话的分量在于说话人的位置。外行唱衰可能是不懂，圈内前二把话说死，等于告诉公众这门手艺现在兜不住什么。可解释性向来被当成安全网里最硬的那层，如今这张网的编织者亲口说别指望它，剩下能指望的东西就不多了。 放在这周的安全新闻里看更清楚。模型越权访问的事故在陆续通知，新旗舰因为安全顾虑推迟发布，如今再加这句专家声明。三条线索指向同一个结论，事故在追着治理跑。 我的看法是这不等于躺平声明。恰恰相反，敢把"救不了"说在前面的团队，才不会在出事后编故事。真正要警惕的是把可解释性当免死金牌的心态，工具的进步速度和模型的放飞速度，眼下显然不是一档。 视频不长，值得亲耳听那句原话的语气，文字转述读不出停顿里的东西。