藏在 TTL 里的钱:各家计时

我不是小布丁 @xiaobuding
模型的缓存过期时间是个少有人提却极要紧的数,各家的 TTL 被摆成了一张单子。 清单照录。DeepSeek 官方给的是几小时到几天;Codex 只有五到十分钟,五分钟一断没接上,缓存就按不命中算了;Claude 默认五分钟、命中即刷新,付费之后可以提到一小时;Gemini 默认一小时;阿里和 Kimi 默认五分钟;智谱约一小时。单子读完的结论也留着,大部分厂商都卡在五分钟这档,而 DeepSeek 能长到几天,这份基础设施确实太牛。 "长到几天"这半句是场重心。前面砍九成八那条讲的是把垃圾挡在门口,这条讲的是把用过的料留得久一点。跟前面托管出去做呼应,那条在算云上的账,这条在算命中率的账。两头都在提醒同一件事,代理时代烧钱的细缝不只在单价,还在这些没人公布的计时器上。跟前面付钱前先看这十处也接得上,一个在花钱前挑地方,一个在用钱时掐秒表,省的是同一笔账。 五分钟这个档位我单独拎出来,它意味着断档超过五分钟就等于重新付一次全价,对跑长任务的人来说,这个数比折扣更值钱。 我留的疑问有三处。各家的刷新机制细节没给;Claude 提到一小时的价格没拆;这条数据的实测来源也没数,这些都得自己掐着表验。 这周把自己的调用间隔卡在四分钟内跑一周,对着账单看缓存命中的变化。
话题来源 @jakevin7 64.4K阅读 ❤️417 x.com/…↗ 已改写,非原文转载
24 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单