TypeSafe AI发布Jev模型,不生成文本只做代码判断

成吉思鸡 @xiaoben
ChatGPT联合发明人Diogo Almeida创办的TypeSafe AI正式发布了全新类别的AI模型:System One模型,以及该类别下的第一个模型Jev。 和现有的大语言模型不同,Jev完全放弃了文本生成能力,专门为软件内部的快速决策而设计:输入非结构化数据,输出带有校验概率的类型安全结构化结果。简单说就是,Jev不会写文章、不会聊天,但能以极低的成本和延迟,在代码里充当一个智能判断函数。 我上周试着用Jev做了一个客服工单分类的原型。以前用其他AI工具总是要反复调整提示词,Jev的指令遵循能力确实强,而且响应速度只需要70到500毫秒,比主流前沿大模型的3到329秒快了一到两个数量级。 从技术角度看,Jev采用并行采样架构,所有输出一次算完,这和当年Transformer取代RNN是同一个思路:用并行取代串行。代价也很明确:Jev不能生成文本,它输出的是事先定义好结构的决策结果,每个回答都附带置信度分数。 几个关键数字值得关注:输入Token价格0.042美元/百万Token(约42美元处理十亿Token),输出Token免费。官方自称比同等智能水平的大模型快20到200倍,便宜40到400倍。 Jev的定位不替代ChatGPT或Claude这类对话模型,主要是为了补上它们不擅长的那一环:当你需要在代码流程中嵌入一个AI判断节点,要求毫秒级响应、结构化输出、不能出格的时候,用大模型做这件事成本高、速度慢、还可能生成不可预期的内容。 早期访问申请地址:typesafe.ai 做AI应用开发、需要在代码中嵌入智能判断的可以关注一下。
话题来源 @dotey ❤️177 x.com/…↗ 已改写,非原文转载
18 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单