时间:2026年8月5日
地点:美国旧金山
人物:Neon公司、Castform公司,Castform联合创始人Ying Hang Seah
事件详情:Neon与Castform 8月5日联合发布案例研究,演示如何用RL后训练将一个4B参数开源模型在企业级检索任务上反超GPT-5.6-Sol。测试中,多轮智能体检索任务使用GPT-5.6-Sol单次请求耗时超过10秒、端到端成本约0.03美元,对生产部署而言过于昂贵与缓慢;而经Castform强化学习流水线后训练的小型开源模型在相同检索任务上不仅准确率更高,单次请求成本据称低至前沿闭源模型的约1/100。Castform的方案基于Neon的Lakebase Postgres与Lakebase Search扩展,将企业文档语料直接存放在Postgres中,由Castform流水线自动生成训练任务、定义工具与奖励函数,并在Lakebase Search之上完成RL回放训练,最终模型在生产推理时仍使用相同的搜索工具调用,无需重写工程链路。
背景:2025年前后,业界检索流程从一次性的嵌入相似度搜索转向多轮智能体检索,模型需要规划并多次调用搜索工具完成多跳查询,每次循环都意味着额外的前沿模型调用与延迟累积,传统RAG范式的边际收益迅速递减。Castform成立于这一背景下,主张将RL后训练做成类似提示工程一样易用的产品,让普通工程师无需理解ML或GPU内部细节即可把企业知识库训练成专用模型。该公司曾发布4B开源模型在领域特定检索任务上击败GPT-5.2的早期结果,并与Neon合作将完整训练—推理栈跑在Lakebase Postgres + Lakebase Search之上,最新案例进一步把目标对准更难的GPT-5.6-Sol基线。
影响:
- 推理成本结构改写:智能体检索的单次成本下降约两个数量级,使企业级多跳问答、知识库Copilot等场景具备规模化部署经济性。
- 开源模型应用扩大:开源权重模型经RL微调后可在特定任务上追平甚至超过前沿闭源模型,将进一步推动企业私有化部署与数据合规落地。
- RAG与数据基础设施协同:Neon Lakebase Search等云原生数据库把文本与向量检索统一到Postgres内,使训练与生产环境共用工具调用成为可能,降低智能体工程化门槛。
总结:Neon与Castform的最新案例显示,借助RL后训练流水线,4B级开源权重模型在企业多跳检索任务中以约百分之一的成本击败GPT-5.6-Sol,同时保持更低的请求延迟。这一结果意味着智能体应用的成本曲线正在被开源生态改写,企业知识库与垂直场景有望摆脱对单一闭源前沿模型的依赖,转向"通用开源底座 + 任务级RL微调"的组合。
参考来源:
- https://neon.com/blog/how-castform-neon-beats-frontier-models-on-price-and-efficiency
- https://castform.com/blog/rag-not-lag/
- https://www.developersdigest.tech/blog/500-dollar-rl-fine-tune-beats-frontier-models
- https://castform.com/
- https://castform.dev/
- https://castform.com/blog/beta-launch/
- https://castform.com/blog/turbopuffer/
- https://castform.com/blog/train-prompt-cache/
- https://neon.com/docs/ai-gateway/models.md