大模型直接改权重，成绩从7.9分涨到48分

大模型不训练，也能写出会玩的网络。 麻省理工 11 月 2 日发了份报告，让 GPT-6 Astra 直接读写神经网络的权重。不重新训练，测试题一道没给。它凭游戏规则和源码，一次写出的打砖块网络得分 517.4。同样形状的网络用 PPO 练一亿步，只有 15.8 分。 读也行。给它 17,253 个权重数字，不给选项，它猜中这是打砖块的网络。爬坡小车更干脆，一次改 3.5% 的权重，1,024 局全过，此前一局没赢过。 最实的还是改语言模型。千问 Qwen3.5-0.8B 有个爱打转的毛病，官方模型卡自己都写着。Astra 从 64 个输出列里减掉一个方向，只动了 0.016% 的权重。MATH-500 从 7.9% 涨到 48.1%，听懂人话的 IFEval 翻了三倍，撞 token 上限的比例从 93% 掉到 33%。 我看这结果，觉得那个比喻挺准：顶级大模型看小模型的参数，跟老程序员看新手代码差不多，哪里不对直接上手改。不过也有它改不动的。Gemma 3 270M 不打转，Astra 磨了半天只挪了一分，这点提升撑不起结论。障碍能拆，模型没有的能力补不上。 全部日志挂在 github.com/RikiyaT/lm_und… ，改好的 Qwen 传到了 huggingface.co/RikiyaT/Qwen3.… ，谁都能翻出来重跑。