三值压进 8G:视频工作流补齐了

有人补上了"8G 显存跑视频工作流"最后一块:开源权重 Ternary Bonsai 2 27B(Qwen 系 27B 架构)——54GB 压到 5.95GB(9 倍),官方测试称保留 98.2% 综合能力,数学编程工具损失很小;速度给了实数:5090 上 143 tok/s、M5 Max 上 46.8 tok/s。 更值得记的是完整流水线:Bonsai 写剧本拆分镜 → Qwen-Image-2.1 生成关键帧 → MiniMax H3 出视频。三段各用各的强项,编排代替单体——本地视频的解法不是找全能模型,是把会省钱的放在省钱的位置。 口径按住:"98.2%"是官方测试,负载基线没写,拿自己素材试了再当真;5.95GB 是权重体积不等于运行时——KV、激活、上下文都要空间,8G 机器看的是完整工作流峰值,不是模型文件大小。 三条:一,视频吃带宽——别只看首帧,看整段时长除以成片秒数的倍率;二,先拿最坏镜头试——文字密集、细纹理最怕精度回撤,风景插画更耐受;三,留回退开关——长会话与批量易撞墙,该切云端能切,别让版图变绝路。 收尾:本地视频的门槛已从"有没有卡"降到"舍不舍得调"——能跑上 8G 的不是最强,是最舍得让路的路线。
话题来源 @xueyu1125 0.8K阅读 ❤️11 x.com/…↗ 已改写,非原文转载
186 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单