@SuJinYan123 分享了一段体感数据:DeepSeek v4.1 flash 的 tps 基本稳定在 200 以上,晚上能接近 400,用来做 quick 验证"简直在起飞",尤其是并行验证——一堆 flash 同时干活;他还补了一句"关键还不怎么带限制"。
为什么 tps 值得单独拿出来说?Agent 场景里,一次任务要几十上百次模型调用,每次多等两秒,累积起来就是几分钟的体感差距。吞吐上去之后,很多原本"不值得跑"的小验证会变得值得跑,工作方式也跟着变:从"想清楚再试"变成"先跑一遍看结果"。
并行验证最能吃到吞吐红利:把大问题拆成几十个小判断,让便宜快的模型同时给结论,再由人或贵模型收敛。这比"让一个模型反复想着改"健康,也更像工程做法——多试几组,而不是一次押注。
边界也要说清楚。200 以上、接近 400 是他一个人的体感,时段、地区和账号档位都会影响,不能当成规格看;"不带限制"这种描述也要落到具体的速率和并发条款上,别按体感去做容量规划。另外并行 fan-out 最容易在限流和重试上翻车,上线前先压测一轮。
一句话:榜单分数决定你能不能做,tps 决定你愿不愿意多做几遍——对实际产出,后者影响更大。
话题来源 @SuJinYan123
1.6K阅读 ❤️8 x.com/…↗ 已改写,非原文转载
159 浏览 0 评论
0 反应













