Neon开源4B检索模型 性能超GPT-5.6 Sol

时间：2026年8月7日 地点：美国（旧金山 Neon 总部；Castform 公司） 人物：Neon 团队；Castform 团队 事件详情： IT 之家 8 月 7 日消息，Neon 8 月 6 日发布博文，宣布携手 AI 语音智能体与训练平台 Castform 公司，披露一套面向检索模型的训练方案，并开源了一个 4B 参数模型。在文档搜索任务中，该模型的准确率与 OpenAI GPT-5.6 Sol 相当甚至更高，而单次推理成本约为 GPT-5.6 Sol 的 1/100。Neon 在验证中显示，该后训练模型平均评估分 1.447，超过 GPT-5.6 Sol 的 1.369，也高于 GPT-5.4 的 1.377，刷新该验证的最高纪录；后训练模型单次推理成本仅 0.000929 美元（约 0.0063 元人民币），GPT-5.6 Sol 单次成本 0.087338 美元（约 0.59 元人民币）。 背景： Neon 是无服务器 PostgreSQL 数据库厂商，擅长为 AI 智能体提供计算与存储分离、自动扩缩容及 Git 式数据库分支能力；Castform 主营 AI 语音智能体与模型训练平台。当前主流文档搜索依赖嵌入式搜索（embedded search），即将文档转为向量后做相似度匹配，但在复杂问题上召回率受限。随着 AI 智能体普及，行业正向"智能体式搜索"演进——模型把大问题拆成多个小问题，自主决定搜索查询、迭代检索并汇总结果，但每次检索都需要调用高性能模型，耗时与成本激增。Castform 与 Neon 合作正是要在"该搜什么"这一路由判断上训练小模型，让智能体在保持精度的同时大幅降低推理成本。 影响： - 4B 级别模型在文档检索准确率上首次反超 GPT-5.6 Sol，验证了"小而专"路径在特定 Agent 子任务上的可行性 - 推理成本降至 GPT-5.6 Sol 的约 1/100，意味着企业 RAG 与 Agent 应用可在不牺牲质量的前提下将检索环节成本压缩两个数量级 - 模型开源（基础 + 后训练版本同时发布）将加速智能体框架与向量数据库厂商之间的"路由模型"生态发展，可能催生新的检索优化中间层市场 总结： Neon 与 Castform 通过强化学习后训练的 4B 开源模型，把"小模型 + 智能体搜索"这条路径的成本天花板打破——在保持 GPT-5.6 Sol 级准确率的同时，将单次推理成本压到几乎可以忽略的程度。这一组合对当前动辄调用 GPT-5/Claude 大模型的 RAG 与 Agent 架构形成直接挑战，预示着智能体应用将从"全栈大模型"走向"大小模型混合路由"。 参考来源： - https://www.ithome.com/0/986/936.htm - https://so.html5.qq.com/page/real/search_news?docid=70000021_9306a756e5728152 - https://neon.tech/blog/castform-retrieval-model - https://huggingface.co/neon - https://www.anthropic.com/news/claude-code-self-hosted