Baseten加入英伟达Nemotron开放模型联盟

时间：2026 年 11 月 5 日 地点：美国加利福尼亚州旧金山（Baseten 总部） 人物：Baseten 团队的 Charles O'Neill、Mudith Jayasekara 与 Ardin Lo；Baseten 联合创始人兼 CEO Tuhin Srivastava；NVIDIA Nemotron 联盟成员企业 事件详情：Baseten 于 11 月 5 日在官方博客宣布加入 NVIDIA Nemotron 联盟，将把来自企业工作负载的洞察以及后训练、推理方面的专长贡献给 NVIDIA Nemotron 开放模型家族和更广的开源生态。Baseten 称，双方的合作覆盖模型首日上线、强化学习环境、后训练与基础设施，以及高性能专用推理四个环节。此前 Baseten 已是 Nemotron 3.5 Super VL 和 Nemotron 3 Ultra 的首日上线合作伙伴，并为法律 AI 平台 Harvey 与 AI 代码审查平台 CodeRabbit 提供早期模型访问、定制和部署服务。双方披露的 CodeRabbit 案例给出了可逐项核对的数字：在 1,000 个任务的固定评测上，模型与 CodeRabbit 路由策略的一致率从基线模型的 75.8% 提升到监督微调后的 80.4%，再经可验证奖励强化学习后达到 80.7%，输出一致性（Cohen's kappa）从 0.429 升到 0.544；在同样的评测负载下，推理总成本从按 OpenAI 公开价格计算的 2.34 美元降到 1.16 美元，节省 50.4%，输出 token 数同时减少 63.4%。该模型最终以单张 80GB A100 上的 vLLM 部署，八路并发下实测聚合输出吞吐为每秒 314.82 个 token。整个后训练实验的实验时长不到三小时，费用低于 100 美元。 背景：NVIDIA Nemotron 联盟于 2026 年 3 月 16 日宣布成立，是全球首个由模型构建方与 AI 实验室组成的协作组织，初始成员包括 Black Forest Labs、Cursor、LangChain、Mistral AI、Perplexity、Reflection AI、Sarvam 和 Thinking Machines Lab。联盟的第一个项目是由 Mistral AI 与 NVIDIA 共同开发的基础模型，在 NVIDIA DGX Cloud 上训练，以开放权重形式共享，并作为后续 NVIDIA Nemotron 4 家族的底座。Baseten 则是 2019 年成立于旧金山的 AI 推理基础设施公司，不自建模型，专注帮企业把各种模型稳定、便宜、高效地运行起来；2026 年 1 月，英伟达以 1.5 亿美元参与其 3 亿美元 E 轮融资，该轮估值 50 亿美元。 影响：Baseten 在联盟里的角色并不止于为已经做好的 Nemotron 模型提供推理服务，还包括训练环境本身，以及由真实生产环境塑造的运营知识。其投入的强化学习环境集中在指令遵循、长程推理与规划、多模态空间推理三个方向，视觉适配器已用于 Nemotron 3 Ultra、GLM-5.2 和 GLM-5.3。对企业用户来说，实际变化是开放权重到生产部署这条链路上的环节被收拢到同一家供应商：模型权重、训练工具、托管算力和推理成本核算可以在一个体系内完成，CodeRabbit 案例给出的一致率与成本数字提供了可对照的基线。 总结：Baseten 加入 NVIDIA Nemotron 联盟，把这家推理基础设施公司的位置从托管和加速 Nemotron 模型推向参与 Nemotron 模型本身的后训练。它带来的不是新的基础模型，而是一套已被真实客户跑通的定制与部署流程：CodeRabbit 用 NVIDIA NeMo 工具和 Baseten 的训练与推理基础设施，把 Nemotron 3.5 Lightning 训成代码审查路由模型，一致率从 75.8% 提到 80.7%，同一负载下推理成本下降 50.4%。对关注开放模型的企业，这是一条可参照的样板路径；对 Baseten 自身，则是把推理产能进一步绑定到 NVIDIA 的开放模型生态上。 常见问题： 问：Baseten 是什么公司？ 答：2019 年成立于旧金山的 AI 推理基础设施公司，帮企业把各种模型稳定、便宜、高效地跑起来；英伟达 2026 年 1 月以 1.5 亿美元投资其 E 轮。 问：Nemotron 联盟是什么？ 答：NVIDIA 于 2026 年 3 月 16 日成立的开放模型协作组织，首个项目是 Mistral AI 与 NVIDIA 共同开发的开放权重模型。 参考来源： Baseten 官方博客（2026-11-05，一手公告） https://www.baseten.co/blog/baseten-joins-the-nvidia-nemotron-coalition-to-advance-custom-ai-in-production Unite.AI 报道（2026-11-05） https://www.unite.ai/baseten-brings-inference-expertise-to-nvidias-nemotron-coalition/ OZZZER AI News 收录报道（2026-11-05） https://ozzzer.com/ai-news/story/255167/ onlylabs 存档的 Baseten 官方博客全文（2026-11-05） https://www.onlylabs.fyi/signals/0aaff02e-6a3c-4da5-920f-3af1c490f83f CodeRabbit 官方博客（2026-08-11，含一致率与成本原始数据） https://www.coderabbit.ai/blog/teaching-nvidia-nemotron-3-5-lightning-to-route-code-reviews NVIDIA 官方新闻室（2026-03-16，联盟成立背景） https://nvidianews.nvidia.com/news/nvidia-launches-nemotron-coalition-of-leading-global-ai-labs-to-advance-open-frontier-models 钜亨网（2026-01-21，Baseten 成立地与英伟达投资） https://news.cnyes.com/news/print/6316985