时间:2026年8月7日
地点:美国华盛顿州雷德蒙德(Microsoft 总部)/ 美国东部2、瑞典中部(首发区域)
人物:Microsoft Azure 集成服务团队(Steef-Jan Wiggers 等工程师);Microsoft Foundry 平台团队
事件详情:
InfoQ 8月7日报道,Microsoft 正式将 Azure API Management 的 AI Gateway Tier 推向公开预览,作为面向 AI 模型、MCP 服务器与工具的统一治理网关。该层以模型、MCP 服务器、工具为控制面核心,区别于传统 API 网关以 API 为中心的范式,已在 East US 2 与 Sweden Central 两个区域免费开放。AI Gateway Tier 可同时托管 Foundry 内置的 OpenAI、Anthropic、Mistral 模型,以及 AWS Bedrock、Google Vertex AI、OpenAI 直连等多供应商模型;OpenAI 兼容厂商共用同一端点路径,按模型名精确匹配路由,Anthropic 通过自定义 provider 与 Messages API 直通调用。策略配置以门户卡片形式呈现,覆盖令牌速率限制、请求速率限制、Content Safety 内容安全、IP 过滤与模型回退;网关约 1 分钟即可完成预配,无需规划 scale unit。遥测通过 OpenTelemetry 令牌指标导出至 Application Insights、Datadog、Grafana 等 OTLP 兼容目的地,资源本身运行在客户的订阅与 Entra 租户内。工具侧支持三个联邦来源:URL 形式的远端 MCP 服务器、OpenAPI 规范、内置 SaaS 连接器(覆盖 1000+ 应用),每个后端的 operations 都会暴露为工具,并支持无认证、API Key、OAuth 2.0 与托管身份四种认证方式。
背景:
Azure API Management 自两年前开始叠加 AI gateway capabilities,但彼时只是既有 API 网关的策略扩展,需通过 XML 与 policy expression 配置,难以应对多模型多供应商场景。2026年2月 Microsoft 发布 Uniper 客户案例,提出 Unified AI Gateway 设计模式,将 Microsoft Foundry、Google Gemini、OpenAI 等多家模型与 API 类型/版本组合的 API schema 定义收敛到一个治理面。Databricks 于 2026年6月 Data + AI Summit 推出 Unity AI Gateway,把 Unity Catalog 扩展到治理模型、Agent、MCP 服务与技能,支持硬性支出上限与智能路由。Microsoft 此番以 Tier 形式正式化 AI Gateway,并在 Microsoft Foundry 控制台可直接创建/关联 APIM 网关,把治理权下沉到平台团队、应用团队保持自服务。
影响:
- 影响1:平台团队可在单一治理面对多供应商模型、MCP 服务器与 SaaS 工具统一执行令牌/请求速率限制、内容安全、IP 过滤与模型回退,避免每个应用补丁式加固;Azure 默认 RBAC、托管身份、Entra 租户隔离,降低密钥泄露影响半径。
- 影响2:Foundry、AWS Bedrock、Google Vertex AI、OpenAI、Anthropic、Mistral 等多供应商模型可共用 OpenAI 兼容端点,应用侧无需改架构即可切换或回退模型;门户卡片式策略让 Token/Request 配额、内容安全阈值可以小时/天/周/月/年多维度可视化,便于 FinOps 报告对账。
- 影响3:MCP 服务器、OpenAPI 规范、1000+ SaaS 连接器三类后端联邦为 Agent 可调用工具,配合运行时访问密钥、IP 过滤、Content Safety 提示盾,构建独立的 AI 流量治理层;同时 OpenTelemetry 令牌指标直接对接 Datadog、Splunk、Grafana Cloud,企业可复用既有可观测性栈。
- 影响4:Databricks Unity AI Gateway 与 Azure AI Gateway Tier 形成正面竞争,但 Microsoft 凭借 Foundry 与 APIM 多年生态沉淀、AI gateway capabilities 两年积累,以及与 Entra ID、Defender CSPM 的原生集成,在企业治理市场具备先发优势。
总结:
Azure API Management 把 AI Gateway 从策略叠加升级为独立 Tier,标志着 Microsoft 把 AI 治理从模型层扩展到企业级 API 网关层;多模型/MCP/SaaS 工具的联邦、托管身份、OpenTelemetry 指标与卡片化策略共同降低了企业把 AI Agent 接入生产环境的门槛。与 Databricks Unity AI Gateway 的对位意味着,2026 下半年企业级 AI 治理赛道正式进入产品化竞争阶段,平台团队需要在统一治理面、模型中立性与生态绑定之间做出取舍。
参考来源:
- https://www.infoq.com/news/2026/08/azure-apim-ai-gateway-tier/
- https://techcommunity.microsoft.com/blog/integrationsonazureblog/ai-gateway-tier-of-api-management-now-in-public-preview/4540170
- https://learn.microsoft.com/en-us/azure/api-management/genai-gateway-capabilities
- https://learn.microsoft.com/zh-cn/azure/api-management/ai-gateway-govern-secure-assets
- https://azure.microsoft.com/en-gb/products/api-management
- https://github.com/Azure-Samples/AI-Gateway
- https://docs.azure.cn/en-us/api-management/genai-gateway-capabilities
- https://techcommunity.microsoft.com/blog/integrationsonazureblog/logic-apps-aviators-newsletter---august-2026/4543662
- https://techcommunity.microsoft.com/blog/appsonazureblog/microsoft-foundry-now-has-an-ai-gateway-control-plane-%E2%80%94-what-changes-for-app-ser/4538320