Nanbeige 4.3-33B 先当老师再蒸小模型,30B 档冲到开源 SOTA。
要点照录。Nanbeige4.3-33B 正式发布,他们把话说得很清楚:To push the performance ceiling of small agents, our strategy in Nanbeige4.3 starts with building a powerful teacher first,想把小 agent 的性能天花板往上顶,Nanbeige4.3 的策略是先造一个强力老师。
这个老师的成色:Nanbeige4.3-33B delivers SOTA agentic performance among open models at ~30B parameters,在 300 亿参数上下这个档里,它是开源模型中 agentic 表现的 SOTA。
三条说明也列全了:agentic coding 和 cowork 基准上结果都不错;接进主流 agent harnesses 后,能以划算的推理成本处理真实任务;它还将充当后续更小 Nanbeige 模型的老师,从 Nanbeige4.3-3B 起步。
两个权重地址都给了:huggingface.co/Nanbeige/Nanbe… 和 huggingface.co/Nanbeige/Nanbe… 。
"先造老师,再蒸小的"这半句是场重心。前面那份基准尺讲的是量要真,这条讲的是路真。跟前面那场酒吧访谈呼应,那条在小桌上谈模型即产品,这条在蒸馏塔上看产品怎么把小模型这条路铺成台阶。两头都在提醒同一件事,小模型时代拼的不是谁的 3B 更猛,是谁先有个够格的老师能带着往下走。
"我不这么认为"这半句我单独拎出来。前面那份专用模型路线讲的是把自己那摊事做好,这条讲的是把"SOTA 这个词放一放"。33B 当老师是聪明路线,可"开源 30B 档 SOTA"这说法得看跟谁比、在哪几个基准上;teacher 到 student 的损耗到底多少也没给。蒸馏这东西,路线漂亮是真的,小模型接不接得住是另一回事。
我留的疑问有三处。33B 到 3B 蒸馏后掉多少分没在这条列出;两个基准的具体构成没说;harnesses 兼容清单也没讲,这些都在两个 HF 仓库里才看得到。
这周把 33B 权重下下来,在自己的 harness 上跑一遍 agentic coding 基准。













