Amazon SageMaker推出跨区域AI推理路由
时间:2026 年 11 月 18 日
地点:亚马逊 AWS 官方博客
人物:Amazon Web Services 产品团队
事件详情:Amazon Web Services 于 11 月 18 日宣布,Amazon SageMaker AI 的 Cross-Region Inference Routing(跨区域推理路由)功能正式上线。该功能可在单个 AWS 区域 GPU 算力不足时,自动将实时和异步推理请求路由至其他区域的健康端点,保障 AI 推理服务不中断。路由支持跨账号端点,企业可为接收端点设置跨区域流量上限,避免溢出流量压垮目标区域。
背景:随着生成式 AI 推理需求激增,AWS 区域间的 GPU 容量瓶颈日益突出。Cross-Region Inference Routing 是 AWS 在 2026 年 11 月为 SageMaker 推出的多项推理增强之一,API 变更记录显示该能力最早在 11 月 16 日预发布。
影响:该功能覆盖 32 个商业 AWS 区域(实时推理)和 25 个区域(异步推理),不额外收费,仅按标准 SageMaker AI 端点定价和 Amazon CloudWatch 指标费率计费。Salesforce 已率先应用该功能,在 30 多个区域和数百个 AWS 账号间共享推理容量,以解决 GPU 利用率不均衡问题。
总结:Amazon SageMaker AI 跨区域推理路由功能已正式上线,可在区域算力不足时自动调度推理请求,覆盖 32 个区域,不额外收费,帮助企业维持 AI 服务高可用性。
参考来源:
AWS 官方博客
https://aws.amazon.com/cn/blogs/machine-learning/keep-inference-running-through-regional-capacity-shortfalls-with-cross-region-inference-routing-in-amazon-sagemaker-ai/
AWS News 报道
https://aws-news.com/article/01a1f094-8260-7253-1748-75bf930ec980
AI News 报道
https://ainewsai.ai/news/salesforce-serves-ai-across-30-plus-regions-amazon-s-new-router-targets-the-idle-gpu-problem/
AWS API 变更记录
https://awsapichanges.com/archive/changes/f1785c-inferencerouter-runtime.sagemaker.html
AWS 2026 年推理功能回顾
https://aws.amazon.com/cn/blogs/machine-learning/amazon-sagemaker-inference-2026-launches-in-review-part-2/
West Loop Strategy 分析
https://www.westloop.io/post/amazon-sagemaker-ai-now-supports-cross-region-inference-routing
ai-tokens.cn 报道
https://ai-tokens.cn/news/news-fe28edf5c5c55f32.html
LinkedIn(AWS 产品负责人)
https://www.linkedin.com/posts/dmitry-soldatkin_keep-inference-running-through-regional-capacity-shortfalls-with-cross-region-inference-routing-in-amazon-sagemaker-ai/







