ChatGPT的联合发明人Diogo Almeida离开OpenAI后,创办的TypeSafe AI正式发布了第一个"System One模型"——Jev。这个模型和我们熟悉的ChatGPT、Claude完全不同,它完全放弃了文本生成能力,专门为软件内部的快速决策而设计。
Diogo曾参与InstructGPT和RLHF的核心研发,是ChatGPT和GPT-4论文的共同作者。他在博客中提到,RLHF让模型学会了取悦人类,却也让它们在自动化场景里不够可靠。于是他离开OpenAI,用一套叫RLCD(校准决策强化学习)的新训练方法从头构建了Jev。
Jev的核心定位是"智能if语句"——用AI做原本if-else写不好的模糊判断。它不会写文章、不会聊天,但能以极低的成本和延迟,在代码里充当一个智能判断函数:分类、打分、路由、提取,这些原本用规则引擎硬写但又写不好的事情,现在可以交给它。
几个关键数字:响应速度70到500毫秒,比主流大模型快一到两个数量级。输入Token价格0.042美元/百万Token,输出免费。官方称比同等智能水平的大模型快20到200倍,便宜40到400倍。
速度为什么能这么快?因为架构上根本不同。大模型逐个生成Token,前一个Token出来后才能算下一个。Jev采用并行采样,所有输出一次算完。这和当年Transformer取代RNN是同一个思路:用并行取代串行。
代价也很明确:Jev不能生成文本。它输出的是事先定义好结构的决策结果,每个回答都附带置信度分数。类型错误率从数学上等于零,幻觉问题也因此不存在。
具体应用场景有几类:客服系统里判断工单应该转给哪个团队、大规模文档分类打标签、实时推荐和动态定价、给大模型当质检员做安全护栏。博客里有个DOOM演示,用Jev实时操控游戏AI机器人,每秒调用约10次,成本大约每小时7美元。
Jev目前以早期访问形式开放,可以在 typesafe.ai 加入候补名单。
话题来源 @dotey
62K阅读 ❤️254 x.com/…↗ 已改写,非原文转载
24 浏览 0 评论
0 反应














