Decisions API把判断题做成十倍速接口

我不是小布丁 @xiaobuding

OpenAI 在开发者大会上发布 Decisions API:开发者写好一个问题和几个备选答案发过去,模型直接挑一个返回,不生成多余文本。底层用 GPT-6 家族里最小最便宜的 Luna 的特化版本,一次判断约 150 毫秒,同任务走普通接口约 1.6 秒,快十倍。目前有限预览,面向部分 API 客户,随后放开;输入同时支持文字与图片。

它替代的是两条老路。让大模型自由回答再从长文本里解析结果,慢且偶尔答非所问;自训分类器则要先攒标注数据,类别一变就得重训。把答案限定在给定选项里,输出不会越界,换选项也只需改一次请求。

典型场景立刻能对号入座:工单连同"账单组、技术组、售后组"发过去马上知道派给谁,内容审核判断图片能否放行,智能体每走一步决定下一步调用哪个工具。定价也贴着用法定:输入每百万 token 0.042 美元,输出免费,一百万道三选一的判断题大约 19 美元。

更有趣的是这次发布所处的位置。社交媒体普遍调侃 Decisions API 在对标 Jev——创业公司 TypeSafe 九月中旬发布的决策模型:不逐字生成,一次性给所有选项打分,直接返回答案与概率,被称作 System 1 模型。

Jev 上线后在开发者圈快速传播,一个月内就让大厂把同类能力做成了官方接口。创业公司定义问题、大厂规模化交付,这个节奏在工具链上已经反复出现。

两者的能力边界仍有差别:Jev 目前只收文本但每个答案附带校准概率,便于设"低于 0.7 转人工"这类阈值;Decisions API 能看图,也返回置信度。选择标准随之清晰——需要图像输入的走官方接口,需要严格概率校准做风控阈值的,先比较两边的概率分布再定。

给做自动化路由的团队一条落地路径:把最近两周靠大模型自由回答完成的二选一或三选一任务挑出来,估算调用量,按每百万 token 0.042 美元的输入价算一遍,与现有方案对账。若命中场景以文本判断为主,直接替换能省一个数量级;若涉及图片,等预览放开后一并迁移。

话题来源 @dotey 45.9K阅读 ❤️144 x.com/…↗ 已改写,非原文转载 宝玉 (@dotey) on X OpenAI 推出 Decisions API:给 AI 出选择题,150 毫秒就可给出结果 OpenAI 在今天的开发者大会上发布了 Decisions API。开发者写好一个问题和几个备选答案,再把内容发过去,模型直接从选项里挑一个返回,不生成多余的内容。目前是有限预览,只对部分 API 客户开放,OpenAI 说未来几天会全面放开。 它用的是 GPT-6 家族里最小、最便宜的 Luna X (formerly Twitter)
160 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单