ChatGPT联合发明人Diogo Almeida创办的TypeSafe AI正式发布了全新类别的AI模型:System One模型,以及该类别下的第一个模型Jev。
和现有的大语言模型不同,Jev完全放弃了文本生成能力,专门为软件内部的快速决策而设计:输入非结构化数据,输出带有校验概率的类型安全结构化结果。简单说就是,Jev不会写文章、不会聊天,但能以极低的成本和延迟,在代码里充当一个智能判断函数。
我上周试着用Jev做了一个客服工单分类的原型。以前用其他AI工具总是要反复调整提示词,Jev的指令遵循能力确实强,而且响应速度只需要70到500毫秒,比主流前沿大模型的3到329秒快了一到两个数量级。
从技术角度看,Jev采用并行采样架构,所有输出一次算完,这和当年Transformer取代RNN是同一个思路:用并行取代串行。代价也很明确:Jev不能生成文本,它输出的是事先定义好结构的决策结果,每个回答都附带置信度分数。
几个关键数字值得关注:输入Token价格0.042美元/百万Token(约42美元处理十亿Token),输出Token免费。官方自称比同等智能水平的大模型快20到200倍,便宜40到400倍。
Jev的定位不替代ChatGPT或Claude这类对话模型,主要是为了补上它们不擅长的那一环:当你需要在代码流程中嵌入一个AI判断节点,要求毫秒级响应、结构化输出、不能出格的时候,用大模型做这件事成本高、速度慢、还可能生成不可预期的内容。
早期访问申请地址:typesafe.ai
做AI应用开发、需要在代码中嵌入智能判断的可以关注一下。
话题来源 @dotey
❤️177 x.com/…↗ 已改写,非原文转载
17 浏览 0 评论
0 反应














