GPT-5.6 把 API 缓存做成了正式产品——最低保留30分钟，读取打一折，这价格战打得很精

GPT-5.6 正式发布，三档模型 Sol/Terra/Luna 定价差异巨大——但很多人没注意到，OpenAI 这次把”显式缓存断点”做成了正式产品，最低保留时间 30 分钟，读取折扣 90%。这件事不只是功能，是定价策略的精妙设计。

今天把这件事说清楚。

什么是显式缓存断点

LLM API 的上下文缓存（Context Caching）是这两年各厂商都在推的特性。原理不复杂：把输入的 prompt 前缀部分缓存起来，后续请求如果前缀相同，就不需要反复传输和重新计算这部分，直接复用缓存，大幅降低 token 消耗和延迟。

GPT-5.6 之前，OpenAI 的缓存是隐式的，开发者不知道缓存何时创建、何时失效。GPT-5.6 这次做成了”显式断点”——你可以指定在哪里建立缓存边界，缓存保留时间最短 30 分钟。

30 分钟这个数字怎么来的

30 分钟不是随便定的，是个工程和商业的平衡点。

从工程角度：30 分钟足够覆盖一次完整的开发会话（比如 20~30 分钟的代码审查或需求分析），但不会太长导致缓存命中率在统计上失真。

从商业角度：写入缓存按未缓存输入速率的 1.25 倍计费，读取享受 90% 折扣。这意味着：

不缓存：1000 tokens × $X = $1000X
缓存写入：1000 tokens × 1.25X = $1250X（只贵 25%）
缓存读取：1000 tokens × 0.1X = $100X（打了 1 折）

只要同一个缓存被复用超过 2 次，读取折扣就能覆盖写入溢价。之后每多一次复用，都是净赚。

实际算一笔账

场景：一个 AI 代码审查工具，每次请求的前缀是项目的代码结构（固定内容，约 2000 tokens），每次审查的 diff 是变化部分（约 500 tokens）。

不缓存：每次都要传 2500 tokens
用缓存：第一次传 2500 tokens（1.25倍溢价），后续每次只需传 500 tokens（0.1倍折扣）

假设每天 100 次请求：

不缓存：100 × 2500 × $X = 250,000X
用缓存：
  第1次：2500 × 1.25X = 3,125X
  第2~100次：99 × 500 × 0.1X = 4,950X
  合计：8,075X

节省了 97% 的前缀 token 成本。

30 分钟保留时间的坑

虽然设计精妙，但有个潜在问题：30 分钟是最低保留时间，意味着即使你的缓存只被用了一次，30 分钟后也会被清除。如果你做一个长时间运行的 Agent 任务（比如 2 小时的代码生成），中间有 1 小时没请求，再请求时缓存已经失效，前缀要重新付 1.25 倍溢价。

解决方案：保持心跳请求，每 20 分钟发一个轻量请求保活缓存。成本极低，但能维持缓存持续有效。

三档模型怎么选

GPT-5.6 三档：Sol（旗舰）、Terra（中档）、Luna（低成本）。

对于需要大量使用缓存的场景（比如 RAG、代码库分析、长文档处理），Terra 可能是性价比最高的选择——价格比 Sol 低不少，但缓存策略省下的成本是一样的。如果 Luna 的基准价格足够低，缓存溢价可能都不在乎。

具体怎么选，看你的 token 复用频率。复用频率越高，缓存价值越大，选贵的模型反而更划算。

对其他厂商的影响

OpenAI 这次把缓存做成正式产品并且明确了定价规则，对整个行业有参考价值。Anthropic、Google、DeepSeek 都在推类似的缓存机制，但定价策略各不相同。

Claude Code 的语境管理里也有类似设计——session 内复用相同的项目上下文，token 成本会随时间下降。GPT-5.6 把这件事显式化了，开发者可以更精确地做成本预算。

GPT-5.6 这次的产品设计值得琢磨——不是功能最强，是把”成本”这个变量做进了产品里。30 分钟保留时间配合写入溢价和读取折扣，是个很精妙的商业机制。如果你用 GPT-5.6 做高频 AI 应用，把缓存策略设计好，省下来的钱可能是模型差价的几倍。