ChatGPT的联合发明人Diogo Almeida离开OpenAI后沉寂了两年…

ChatGPT的联合发明人Diogo Almeida离开OpenAI后沉寂了两年，最近终于亮出了他的新作品——一个叫Jev的AI模型，来自他创办的TypeSafe AI。 这个模型有点反直觉：它完全放弃了文本生成能力。不会写文章，不会聊天，不会回答问题。它只做一件事——在代码流程中充当一个"智能判断函数"。 听起来好像没什么用？但仔细想想，你在写代码的时候，有多少地方需要的其实不是一段文字，而是一个判断？ 比如客服系统里，一条工单进来，你需要判断它该转给哪个团队、紧急程度多高、用户情绪如何。以前要么用关键词规则（太死板），要么调大模型（太慢太贵）。Jev能在70到500毫秒内给出带置信度的判断结果，输出格式固定，代码直接用。 再比如大规模数据处理，对几百万条文档做分类、打标签、提取结构化字段。大模型单条成本还行，量一上去就很贵。Jev的输入价格是0.042美元/百万Token，输出免费。官方说比同等智能水平的大模型便宜40到400倍。 为什么能这么快？架构上根本不同。大模型逐个生成Token，前一个出来才能算下一个。Jev采用并行采样，所有输出一次算完。这和当年Transformer取代RNN是同一个思路：用并行取代串行。 代价也很明确：Jev不能生成文本。它输出的是事先定义好结构的决策结果，每个回答都附带置信度分数。类型错误率从数学上等于零（输出结构在架构层面就被约束了），幻觉问题也因此不存在。 Diogo Almeida在OpenAI参与了InstructGPT和RLHF的核心研发，是ChatGPT和GPT-4论文的共同作者。他在博客里说了一句很实在的话：RLHF让模型学会了取悦人类，却也让它们在自动化场景里不够可靠。 所以他用了一套叫RLCD（校准决策强化学习）的新训练方法从头构建了Jev。"System One"这个名字来自卡尼曼的《思考，快与慢》中的"系统一"——快速、直觉、自动化的思维方式。 他们做了两个挺有意思的演示：一个是用Jev实时操控经典游戏DOOM的AI机器人，每秒调用约10次，成本大约每小时7美元；另一个是Wikipedia竞速（从一个词条通过链接跳转到另一个指定词条），Jev在步数和速度上都领先于大模型。 Jev的定位很清晰：不替代ChatGPT或Claude这类对话模型，而是补上它们不擅长的那一环——当你需要在代码流程中嵌入一个AI判断节点，要求毫秒级响应、结构化输出、不能出格的时候。 用他们的话说，这叫"智能if语句"——用AI做原本if-else写不好的模糊判断。 目前Jev以早期访问形式开放，可以在官网加入候补名单。 项目地址：typesafe.ai