你弄伤我的鳞片了
@xinshou
ChatGPT联合发明人憋了两年，刚放出个新模型Jev。名字来源于Jevons悖论（效率越高、用量反而越大）。
主流LLM生成文本，慢且贵。Jev只输出决策，不产文本。以RLCD训练、并行推理替代自回归，换来20-200x速度、40-400x成本优势，输出侧免费。
我昨天试了一下，处理速度确实快很多。以前用GPT处理一个复杂任务要好几秒，这个几乎秒出结果。而且成本低很多，对于高频调用的场景，这个优势很明显。
Jev的核心思路是把LLM从"生成文本"变成"输出决策"。很多场景其实不需要完整的文本输出，只需要一个决策结果。比如分类、排序、判断这些任务，用Jev处理效率高很多。
对于做AI应用开发的人来说，这个模型值得试试。速度快、成本低、输出侧免费，这三个点已经能解决大部分日常需求了。
加入waitlist：typesafe.ai
话题来源 @harrisonitsme
83.9K阅读 ❤️111 x.com/…↗ 已改写，非原文转载
24 浏览 0 评论
0 反应
