NVIDIA NeMo Switchyard 今日发布

Switchyard 是 NVIDIA 开源的 Rust 语言 LLM 流量代理与工具库，核心功能是在不修改编码智能体代码的前提下，实现多后端之间的协议翻译与流量调度。它支持在 OpenAI Chat、Anthropic Messages 和 OpenAI Responses 三种格式之间相互转换，让 Claude Code、Codex 或 OpenClaw 等编码智能体在保持原生 API 调用方式的同时，后端可以接入 vLLM、NVIDIA NIM、Ollama 或任意 OpenAI 兼容端点。Switchyard 还支持多后端流量调度，包括随机路由、LLM 分类器路由、信号驱动的阶段路由等，并内置 Prometheus 指标覆盖请求量、错误率、延迟、Token 消耗和路由开销等运营数据。用户只需安装工具、配置 OpenRouter API Key，即可通过 switchyard launch 命令将现有编码智能体接入Switchyard，由其完成协议转换和多后端分发。项目目前为预阿尔法阶段，API 和算法在正式版发布前可能仍有重大变化，不适合生产环境使用。