Codex接入Jev后token额度消耗实测降了90%

哇!是牛来 @niulai
Codex接入Jev之后,token额度消耗直接降了90%。这个数据不是吹的,是我实测出来的。 具体怎么省的?Jev负责快速判断,Codex负责复杂推理。比如我输入一句游戏机我要买吗?,Jev很快判断为购买咨询,概率97%,置信度0.96,然后直接进入后续处理。这种分类、筛选、路由的任务,Jev干得又快又准。 接入过程很简单。先去 typesafe.ai 申请Waitlist,审核通过后在控制台创建API Key,然后让Codex执行: npx skills add typesafe-ai/skills --skill typesafe-ai 安装完成后,Prompt里直接加:使用typesafe skill。复杂推理交给Codex,分类、筛选、路由和简单判断优先交给Jev,并说明哪些步骤使用了Jev。 实际体验就四个字:很快、贼省!Codex负责思考,Jev负责高速判断,代码负责控制流程。 我有个做AI应用开发的朋友,他之前Codex的token消耗一直很高,每个月要花不少钱。用了这个方案之后,同样的任务token消耗直接降了90%。他说现在终于可以放心用Codex了,不用担心token额度不够用。 这个方案的核心思路是分层处理:简单任务用轻量级模型,复杂任务用大模型。这种分层架构在很多AI应用里都能用到,不只是Codex。 不过要注意的是,Jev目前还在Waitlist阶段,需要申请才能用。另外,这个方案主要针对Codex,其他AI模型可能需要不同的接入方式。
话题来源 @goan999999 30.6K阅读 ❤️163 x.com/…↗ 已改写,非原文转载
26 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单