高速档那条线:每秒五百刀

Z.ai

智谱把 GLM-5.3-Highspeed 悄悄放进了灰度,实测吞吐逼近每秒五百 token,国产速度立了个新标杆。

细节照录。这次不是全员开放,系统随机从订阅用户里抽人发体验资格;实测那组数给得清楚,吞吐约每秒四百九十三 token,首字延迟四点九秒,缓存命中率九成九点九;跟前代 GLM-5.3-FlashX 峰值每秒两百 token 相比,速度翻了两倍还多,已经是接近秒出万字的层级。

底子那行也交代了,它站在 GLM-5.3 旗舰基座上,一兆上下文、代码推理、Agent 那些能力一个不落,优化全压在推理吞吐上,质量和速度两头兼顾。收尾的判断也留着,高速推理对编程任务和长文本 Agent 的多轮协作增益直观。国产大模型的赛道如今比的是真实用户的吞吐体验,这一头正在追海外第一梯队。地址挂在文首。

"随机抽人发资格"这半句是场重心。前面缓存计时那条讲的是省钱的细缝,这条讲的是花钱的爽点。跟前面十二 G 那台机器呼应,那条在本地把速度榨到极限,这条在云端把速度抬到新档。两头都在提醒同一件事,推理的竞争已经从对准不准挪到吐得多快,快本身就是一种能力。跟前面全系深度卷那条也接得上,一个在训练侧卷质量,一个在推理侧卷吞吐,两头卷到一起,用户体验才算齐活。

首字四点九秒这个数我单独拎出来。吞吐再高,用户先看见的是第一行字,这个延迟才是体感的开关。作者把它和吞吐并排摆出来,看得懂门道。

我留的疑问有三处。灰度的投放比例没给;高速版的计价有没有上浮没拆;缓存九成九的测试条件也没数,这些都在官方公告里才看得到。

这周把订阅号挂上等抽签,抽中就把编程任务跑一遍计时。

话题来源 @xiax0603 0.9K阅读 ❤️6 x.com/…↗ 已改写,非原文转载 Z.ai - Advanced AI Chatbot & Agent powered by GLM-5.3-Flash Meet Z.ai, the AI assistant powered by GLM-5.3-Flash. Build websites, write code, handle long-horizon tasks, and get instant answers. Fast, smart, and reliable. Z.ai
52 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单