才两周,OpenAI 前 CTO 又发一个小模型——参数只有原来的四分之一,性能却只差 1 分

Mira Murati 离开 OpenAI 之后节奏一直没慢下来。两周前她带着 Thinking Machines 的第一个模型 Inkling 亮相,今天又直接发了一个精简版——Inkling Small。

参数从 9750 亿砍到 2760 亿,活跃参数从 41 亿缩到 12 亿,结果 Artificial Analysis 测出来只比原版低 1 分:Inkling 41,Inkling Small 40。

这个差距真的可以忽略

不是因为它”还行”,是因为在这个尺寸上没有对手。Artificial Analysis 的 Intelligence Index 里,Inkling Small 是当前最小参数规模里得分最高的开源模型,没有之一。

几个具体数字感受一下:

  • 编码、推理、多模态这几个维度,单项得分都逼近原版
  • 有几个 benchmark 还反超了原版
  • context window 最高支持 100 万 token,文本、图片、音频都能输入
  • Apache 2.0 许可证,权重直接在 Hugging Face 公开

对企业来说这件事有意思在哪

以前跑这种量级的模型,没有几十张 H100 根本不用想。现在 2760 亿参数、12 亿活跃参数,企业的 GPU 存量能 cover 得住这个规模了。不是说它能在笔记本上跑——还是太大,但它第一次让”在自有 GPU 上部署一个有竞争力的旗舰级模型”这件事变得现实了。

官方现在有 50% 限时折扣,64K context 版本 API 价格大概是 $0.58/M prefill tokens、$1.44/M output tokens。长期来看,这个定价区间对企业的吸引力会比继续依赖 API 服务商更高——毕竟数据不用出域,推理成本也可以自己控制。

下一步是什么

Thinking Machines 同时放出了 Tinker API,支持在 Inkling Small 基础上做 fine-tune。对于垂直领域的企业来说,从一个已经接近旗舰水平的小模型出发做定制,成本会比从头训一个低得多。

这件事本质上是把”小模型也能打”这件事从理论变成了可用的产品。对国内做部署和 fine-tune 的团队来说,Inkling Small 值得放进候选名单里跟 Qwen、GLM、DeepSeek 放在一起比较一下。

评论区

0 条评论

登录后可评论。

AI 产品观察 12 阅读