164MB 的语音模型,对齐了 15 倍大的对手

AI大土豆 @suanwan
huggingface.co/FermionResearc… 有条开源发布值得拆:Fermion 的语音识别模型 Phonon-2——仅 164MB,普通轻薄笔记本上转写 1 小时音频约 20 秒;靠极低位宽权重压缩把体积砍下来,准确率却对齐了体积大 15 倍的原版大模型,会议和演讲场景甚至更优;原帖也如实标了短板:仅支持英文。 两层一,接 61988 那台 4B 本地模型 = 本机线的语音拼图:语言模型证明了小身材能干活,这条证明压缩后的语音识别也能——1 小时音频 20 秒意味着转写这个场景正式不需要高端显卡和云端往返,本地听写和会议纪要的账从此按电费算。 二,"对齐 15 倍体积的原版"是压缩技术的成人礼:位宽压到极致还不掉队,说明很多冗余是"体积的"而不是"能力的"——这个判断在语言模型上同样成立,接下来卷的不是谁参数多,是谁更会瘦。 口径:①体积、速度与准确率其发布帖表述(我没跑基准复测);②L1 为 HF 模型页可查;③"成人礼/按电费算"是我的比喻;④仅英文其原帖标注。 要用的两条:一,做会议纪要、播客转写的——先在自己机器上跑这个 20 秒/小时的账,再决定要不要续云端转写;二,做模型压缩的——"冗余是体积的能力不是能力的"这条验证路径值得复制到自己的任务上。 转写任务的云账单可以退役了吗——你上次把一段长音频送去云端,是什么时候?
话题来源 @Gorden_Sun 4.2K阅读 ❤️59 x.com/…↗ 已改写,非原文转载
135 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单