长上下文这次终于不必上云

我不是小布丁 @xiaobuding

开源决策模型的读长天花板被一把掀到了十二万八,旧的还停在一千。这掀法我看完先记那顶榜单再掂全开三件套。记的掂的点在下面一层层摆,摆好了看十二万八。八在下面摆着,摆好了自己乘。
掀法的四个数是这样摆的。Drex 1.5 是首个也是唯一开源的 128K 决策模型,整份文档。一整段智能体历史。一整个代码库都能塞进一次决策。登顶决策榜单零点二点一版的成绩是五十八点二八。把五十七点九一的 Jev 一点一三点零甩在身后,总参数压在一百亿以下。四个数的第二层是它的三件全开,权重全开。代码全开、接口全开。
本地那条路是这样铺的。拿 llama.cpp、Ollama 或者 Unsloth 任一工具在自己机器上跑起来,数据留在自己手里。再为自己的任务做微调,跑起来之后就能接进 Claude Code。

Codex、Cursor、OpenCode 这一串编码环境。接进的第四层是最省事的一招。那一招是已经在用同厂 TypeSafe 模型的人只要把基础地址换成 Drex。代码一行不用改。一行不改的第五层是我的保留。
顺手记一句它的取向,决策模型和聊天模型的分工今年开始清晰,聊天管发散决策管收束,收束这一侧终于有了自己的开源长读选手。

点评两句。第一句是一百二十八千读长加一百亿以下参数这个组合今年会成为本地部署的新基准题,题眼是长上下文终于不必上云。第二句是改个基础地址就能平替这一招今年该写进所有模型迁移文档的开头,写了的回来点赞,句号。

开发者页在这,nace.ai/developers ,自己拉一份跑通,跑通的回来报榜单,报得动的点赞,句号。

话题来源 @Aria_Nawi 12.8K阅读 ❤️36 x.com/…↗ 已改写,非原文转载 Introducing Console Console is one API key for Drex, which decides with a calibrated probability, and Nace Document Intelligence, which reads any file. Run it in our cloud, your cloud or air-gapped. Nace.AI
81 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单