想得少一点,答得准一点:27B

小白爱摸鱼 @chaozuoye
bottlecapai.com/post/thinkingc… huggingface.co/bottlecapai/Th… huggingface.co/bottlecapai/Th… ThinkingCap 把 Qwen3.8-27B 重新调了一版,专往 agent 那个方向使劲,数字摆开。 三项照录。思考那部分的 token 最多能少六成五,平均少三成七;准确率的损失压到很小;长上下文的检索反而涨了两点三个百分点。博客、Hugging Face 权重和 GGUF 三条链接都在上面。 "省的是思考,涨的是检索"这半句是全场重心。前面拍子落下前一百毫秒那篇讲的是判断要快,这条讲的是把快建立在省 token 上。跟前面三道算术呼应,那条算的是每任务花多少,这条算的是每一步想多少,都在往同一侧压。跟前面二十三年没动的下界也对得上,一边是慢工出的难题,一边是快省抢出来的寸进。 检索那项我单独记着,通常砍思考会连带伤到长程查找,这版却反涨两点三个百分点,说明省的地方和涨的地方没打架。 我留的疑问有三处。六成五的上限出现在什么任务没说;准确损失的衡量用的哪套题没列;GGUF 那份的量化档位也没交代。 这周拿它跑自己最吃上下文的那类活,记两件事,思考 token 的总量,和检索回来的命中率各变了多少。
话题来源 @BottleCapAI 33.6K阅读 ❤️599 x.com/…↗ 已改写,非原文转载 ThinkingCap-Qwen3.8-27B: the same answers, 37% less thinking The second model in our ThinkingCap series. We took Qwen3.8-27B and cut how much it thinks, without changing the quality of the answers. bottlecapai.com
153 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单