我把生产环境里的 AI Agent 迁到 GPT-5.6 了，这几个坑你最好先知道

导语

如果你的团队已经在用 GPT-4/5 跑 AI Agent，比如代码审查、自动化测试、客服分流，那 GPT-5.6 刚发布的这三档模型和新的 API 行为，可能不像官网说的那么简单。我上周把内部一个生产 Agent 从 GPT-5.5 迁到了 GPT-5.6，踩了 4 个坑，其中一个差点把 token 账单翻倍。这篇说说真实迁移时的兼容性、成本和代码改动。

正文

问题：你以为迁移就是改个 model 名字？

GPT-5.6 的正式发布里，最容易被忽略的变化不是”模型更聪明了”，而是模型分层了。OpenAI 把 GPT-5.6 拆成了 Sol、Terra、Luna 三档，对应不同场景、不同价格、不同延迟。如果你直接改 gpt-5.5 → gpt-5.6，大概率会触发下面几个问题：

1. 默认模型变了：旧版 API 的 gpt-5.5 默认是单一模型，GPT-5.6 的默认入口现在指向 Sol，但 Terra/Luna 需要显式指定。不指定的话，轻量批量任务也会按 Sol 计费。
2. Prompt Cache 失效：GPT-5.6 的 prompt cache 格式有变化，旧版缓存键在新模型下不会命中，首次调用会重新计算，导致响应变慢、token 消耗突增。
3. 上下文窗口翻倍：Sol 支持 150 万 token，比 GPT-5.5 的 100 万多了 50%。如果你的 Agent 现在每次传 80 万 token，迁过去后成本会按新单价重新计算，不一定更便宜。
4. 错误码和处理逻辑变了：新模型对函数调用的格式要求更严格，旧的 tool_choice 兼容层可能直接返回 400。

方案：分阶段迁移，先 Terra 再 Sol

我建议不要一次性全量切到 Sol。下面是经过生产验证的迁移路径：

第一步：先切 Terra 做兼容性验证

Terra 的定位是”性能接近 GPT-5.5，成本减半”。把它当成过渡模型最安全，因为行为和旧版接近，但价格更低。

// 迁移前：GPT-5.5 单一模型
const response = await openai.chat.completions.create({
  model: "gpt-5.5",
  messages: agentMessages,
  tools: agentTools,
});

// 第一步：切到 Terra，行为基本不变，成本先降一半
const response = await openai.chat.completions.create({
  model: "gpt-5.6-terra",
  messages: agentMessages,
  tools: agentTools,
  tool_choice: "auto",
});

第二步：显式指定模型，避免默认计费陷阱

GPT-5.6 的默认入口实际指向 Sol，单价最高。批量任务、分类、摘要这类低复杂度任务，应该显式切到 Luna：

// 批量文本分类：用 Luna，成本最低
const batchResponse = await openai.chat.completions.create({
  model: "gpt-5.6-luna",
  messages: [{ role: "user", content: "分类：这条反馈属于 bug、feature 还是 question" }],
  max_tokens: 256,
});

// 复杂代码重构：用 Sol，开 Max 推理
const complexResponse = await openai.chat.completions.create({
  model: "gpt-5.6-sol",
  messages: codeReviewMessages,
  reasoning_effort: "high",
  max_tokens: 4000,
});

第三步：Prompt Cache 兼容层

GPT-5.6 的 prompt cache 格式变了，旧版缓存不会自动继承。最简单的处理方式是在迁移初期强制刷新缓存，同时保留降级逻辑：

// 生产环境建议：加一个 migration flag，新请求走新缓存格式
const useNewCacheFormat = process.env.OPENAI_GPT56_MIGRATED === "true";

const response = await openai.chat.completions.create({
  model: "gpt-5.6-terra",
  messages: agentMessages,
  prompt_cache_control: useNewCacheFormat ? { ttl: "24h" } : undefined,
});

第四步：监控 token 消耗和延迟

迁到 GPT-5.6 后，最大的风险不是模型能力，而是成本失控。Sol 的输入单价是 Terra 的两倍，输出是 Terra 的两倍；如果你的 Agent 每次调用都传长上下文，账单会涨得很快。

我加了两个监控项：

• 单次请求 token 消耗告警：超过阈值直接记录日志，避免静默超支。
• 模型路由统计：看 Terra/Sol/Luna 的比例，如果 Sol 占比超过 60%，说明路由策略有问题。

结论：什么时候该迁，什么时候先别急

经过这次迁移，我得出的判断标准很简单：

• 适合马上迁：已经在用 GPT-5 系列 API，且 Agent 的任务以代码生成、文档分析、研究型任务为主。迁到 Terra 就能降本，Sol 能在复杂任务上再提升质量。
• 适合先观望：Agent heavily 依赖 prompt cache 做成本控制，或者有严格的延迟要求。新模型的 cache 行为和延迟稳定性还需要观察。
• 不适合直接切 Sol：除非你的任务明确需要 Ultra 多智能体模式或 Max 深度推理。大多数日常 Agent 用 Terra 就够了，Sol 的额外成本不一定带来等价的收益。

收尾

下一步：我建议你在 staging 环境先跑一周 Terra，重点看 token 消耗和响应延迟两项指标。如果 Terra 已经能满足质量要求，就不要急着切 Sol；如果 Terra 满足不了，再评估 Sol 的额外成本是否值得。你觉得你们现在的 Agent 更偏向哪类任务？