ChatGPT联合发明人Diogo Almeida离开OpenAI后,创办了Ty…

ChatGPT联合发明人Diogo Almeida离开OpenAI后,创办了TypeSafe AI,今天正式发布了第一个System One模型Jev。 这个模型跟我们平时用的大语言模型完全不同。它完全放弃了文本生成能力,不会写文章、不会聊天,专门为软件内部的快速决策而设计。输入非结构化数据,输出带有校准概率的类型安全结构化结果。 简单说:Jev就是一个智能判断函数。分类、打分、路由、提取,这些原本用规则引擎硬写但又写不好的事情,现在可以交给它。 几个关键数字:响应速度70到500毫秒,比主流大模型快一到两个数量级。输入Token价格0.042美元/百万Token,输出免费。官方自称比同等智能水平的大模型快20到200倍,便宜40到400倍。 速度为什么能这么快?因为架构上根本不同。大模型逐个生成Token,前一个Token出来后才能算下一个。Jev采用并行采样,所有输出一次算完。这和当年Transformer取代RNN是同一个思路:用并行取代串行。 代价也很明确:Jev不能生成文本。它输出的是事先定义好结构的决策结果,每个回答都附带置信度分数。类型错误率从数学上等于零,幻觉问题也因此不存在。 对开发者来说,Jev的定位不替代ChatGPT或Claude这类对话模型,主要是为了补上它们不擅长的那一环:当你需要在代码流程中嵌入一个AI判断节点,要求毫秒级响应、结构化输出、不能出格的时候,用大模型做这件事成本高、速度慢、还可能生成不可预期的内容。Jev就是为这个场景设计的。 他们还做了两个有趣的演示:一个是用Jev实时操控经典游戏DOOM的AI机器人,每秒调用约10次,成本大约每小时7美元;另一个是Wikipedia竞速,Jev在步数和速度上都领先于大模型。 System One这个名字来自Daniel Kahneman的《思考,快与慢》中的系统一,快速、直觉、自动化的思维方式。Jev则取自经济学中的杰文斯悖论:当某种资源的使用效率大幅提高时,总需求反而会增长。 Jev目前以早期访问形式开放,开发者可以在 typesafe.ai 加入候补名单。 有在做AI应用开发的朋友可以关注一下,特别是需要在代码流程中嵌入AI判断节点的场景。
话题来源 @dotey 58.8K阅读 ❤️229 x.com/…↗ 已改写,非原文转载
21 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单