推理速度过千,很多具身智能的局就不用打了。这是条假设,但方向不空。
推演分两步。第一步,GPT-6 Astra 若真给出每秒一千 token 以上的推理,跟设备那条回路就打通了,很多具身场景的门槛当场塌掉。第二步,再配一个类似 Jev 的快速判断版,把反应压到毫米级,自动驾驶这类对延迟极苛刻的活也可能被覆盖。收尾那句是梁圣的判断,只要 LLM 做得够强、推理基建再跟上,其他类型智能是水到渠成。
推理基建这半句是全场重心。前面几篇讲的都是模型能力在涨,这条把账拉到了另一头,速度本身就是能力。跟前面单卡一百五那篇接得上,那篇给的是能跑,这条给的是够用到什么场景。
毫米级判断这个提法也值得记。Jev 位置已经在前面那几篇里摆好了,如今连反应时间都进了议程,分层计费之外又多了一层分层延迟。
我留的疑问有两处。一千 token 每秒是假设值,Astra 实测速度没给;毫秒级判断要连着真车真机验证,实验室数字搬到路上是另一回事。
盯两组数就够,Astra 的实测吞吐,和那类快速判断模型在环路上的端到端延迟。
话题来源 @_kaichen
18K阅读 ❤️132 x.com/…↗ 已改写,非原文转载
18 浏览 0 评论
0 反应












