Neon开源4B检索模型 性能超GPT-5.6 Sol

时间:2026年8月7日 地点:美国(旧金山 Neon 总部;Castform 公司) 人物:Neon 团队;Castform 团队 事件详情: IT 之家 8 月 7 日消息,Neon 8 月 6 日发布博文,宣布携手 AI 语音智能体与训练平台 Castform 公司,披露一套面向检索模型的训练方案,并开源了一个 4B 参数模型。在文档搜索任务中,该模型的准确率与 OpenAI GPT-5.6 Sol 相当甚至更高,而单次推理成本约为 GPT-5.6 Sol 的 1/100。Neon 在验证中显示,该后训练模型平均评估分 1.447,超过 GPT-5.6 Sol 的 1.369,也高于 GPT-5.4 的 1.377,刷新该验证的最高纪录;后训练模型单次推理成本仅 0.000929 美元(约 0.0063 元人民币),GPT-5.6 Sol 单次成本 0.087338 美元(约 0.59 元人民币)。 背景: Neon 是无服务器 PostgreSQL 数据库厂商,擅长为 AI 智能体提供计算与存储分离、自动扩缩容及 Git 式数据库分支能力;Castform 主营 AI 语音智能体与模型训练平台。当前主流文档搜索依赖嵌入式搜索(embedded search),即将文档转为向量后做相似度匹配,但在复杂问题上召回率受限。随着 AI 智能体普及,行业正向"智能体式搜索"演进——模型把大问题拆成多个小问题,自主决定搜索查询、迭代检索并汇总结果,但每次检索都需要调用高性能模型,耗时与成本激增。Castform 与 Neon 合作正是要在"该搜什么"这一路由判断上训练小模型,让智能体在保持精度的同时大幅降低推理成本。 影响: - 4B 级别模型在文档检索准确率上首次反超 GPT-5.6 Sol,验证了"小而专"路径在特定 Agent 子任务上的可行性 - 推理成本降至 GPT-5.6 Sol 的约 1/100,意味着企业 RAG 与 Agent 应用可在不牺牲质量的前提下将检索环节成本压缩两个数量级 - 模型开源(基础 + 后训练版本同时发布)将加速智能体框架与向量数据库厂商之间的"路由模型"生态发展,可能催生新的检索优化中间层市场 总结: Neon 与 Castform 通过强化学习后训练的 4B 开源模型,把"小模型 + 智能体搜索"这条路径的成本天花板打破——在保持 GPT-5.6 Sol 级准确率的同时,将单次推理成本压到几乎可以忽略的程度。这一组合对当前动辄调用 GPT-5/Claude 大模型的 RAG 与 Agent 架构形成直接挑战,预示着智能体应用将从"全栈大模型"走向"大小模型混合路由"。 参考来源: - https://www.ithome.com/0/986/936.htm - https://so.html5.qq.com/page/real/search_news?docid=70000021_9306a756e5728152 - https://neon.tech/blog/castform-retrieval-model - https://huggingface.co/neon - https://www.anthropic.com/news/claude-code-self-hosted