一百五十毫秒的选择题:Decisions API

小白爱摸鱼 @chaozuoye
DevDay 那天发的十几个东西里,这位开发者最服的是 OpenAI 的一个 API。 Decisions API 专管一件小事:给模型出选择题。你把问题连同几个固定选项写好,文本或图片一并送进去,它用 GPT-6 Luna 直接吐出答案和置信度,全程约 150 毫秒。同样的判断单找 Luna,得等 1.6 秒左右,十倍的差距。 被拆出来的那类"小事"其实到处都是。请求派给哪个 agent、图片拦不拦、下一步走哪条岔路,以前每问一次都得唤一次聊天模型,再从长篇回复里把答案抠出来。问一百次,就是一百次排队和一百次解析。 有了置信度,分流就顺了:高的直接放行,低的交给 Sol 或 Astra 想。这个套路我看着眼熟,Jev 那套"给选项打分"走了同一扇门,只是这次门开在了官方 API 上,谁都接得着。琐碎的路由和分类不再拖着整条链等一句话写完。 我欣赏的是这种"把小判断单独定价"的思路。决策便宜了,agent 才敢多问几次;决策贵,系统就只能憋着少问,边界情况反而漏掉。150 毫秒买到的不只是速度,是敢频繁确认的底气。 有件事得留神:眼下属于限量预览阶段,定价一个字还没放。全面开放后按量怎么收,才是决定它长在谁家链路上的关键。 有 agent 路由需求的这几天可以留意通知,先把自己的分叉点列出来,等开放了逐个替换。
话题来源 @ScarletKc 3.2K阅读 ❤️16 x.com/…↗ 已改写,非原文转载
135 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单