AWS开源TorchNeuron 直上Trainium

2026年10月19日，亚马逊云科技（AWS）正式推出开源工具 **TorchNeuron**，让全世界的AI开发者用一行配置就能把基于 PyTorch 的项目搬到 AWS 自研AI芯片 Trainium2 和 Trainium3 上运行。该工具将在10月20日开幕的北美PyTorch大会上以 Apache 2.0 协议正式开源，进入公共Beta状态。 亚马逊AWS表示，目前85%的AI研究员和开发者用 PyTorch 写代码，但过去要把这些代码移植到非英伟达芯片上，往往需要数月重写和重新验证。TorchNeuron 直击这一痛点：开发者只需在模型后面加一行 `.to('neuron')`，或调用一次 `torch.compiler.set_default_backend("neuron")`，后续的 `model.compile()`、训练循环、推理流水线均无需改动。AWS工程师在演示中展示，同一段训练脚本在普通芯片和 Trainium 上跑出"完全相同的训练曲线"。 TorchNeuron通过 PyTorch 官方扩展点 **PrivateUse1** 注册 Trainium，使得 eager 模式、torch.compile 和 Neuron Kernel Interface（NKI）自定义内核等主流接口"开箱即用"。亚马逊还承诺将相关代码贡献回 PyTorch 上游，帮助 PyTorch 框架降低对单一芯片厂商（暗指英伟达）的隐性绑定，让框架更"硬件无关"。 在客户层面，语音AI公司Cartesia 表示"用最小改动把现有PyTorch推理流水线搬到了 Trainium 上"，Deepgram 在迁移后"每美元处理的音频量提升70%、仍保持同等准确度"；脑发育研究所 Lieber Institute 用 TorchNeuron 加速分子动力学模拟和药物发现研究；Hugging Face 已为 Trainium 加入官方支持，Uber 与 AWS 近期扩展算力合同也启用了 Trainium。亚马逊AWS称，TorchNeuron的上线"是要移除那种让开发者毫无选择的锁定——以前不是英伟达就是英伟达，现在终于有第二个答案"。 AWS Trainium 是由 Annapurna Labs 团队自研的AI加速芯片，目前主打 Trainium2 和 Trainium3 两代产品，并实现训练与推理同一硬件池，闲时可互转。AWS CEO Andy Jassy 今年4月在致股东信中预计，自研芯片业务长期潜力可达500亿美元规模，目前年化营收已突破250亿美元。TorchNeuron的推出意味着，AWS 不再只在硬件层跟英伟达抢市场，而是直指英伟达最深的护城河——CUDA 软件生态。 需要指出的是，TorchNeuron首版仍有缺口，例如暂不支持动态输入形状、约22000条PyTorch测试被跳过，仍属"公共Beta"状态。AWS官方提示生产环境部署需谨慎评估。Meta PyTorch工程总监 Jana van Greunen 对此评论道："PyTorch 的愿景很简单：开发者跨硬件平台要有一致的体验。为 Trainium 提供原生支持拓展了这种选择，研究员和工程师能在不离开PyTorch生态的前提下用上Trainium的能力。" 在全球AI算力需求暴涨、英伟达GPU供应紧缺的当下，TorchNeuron把"选芯片"变成了"改一行配置"的事。对于初创公司而言，这意味着不再被迫和绑定英伟达的"新云"（CoreWeave、Nebius、Firmus等）合作；对于大型企业而言，同一块硬件既训又推的特性可以显著提高资本效率。无论如何，亚马逊这一刀，直接切向了英伟达的神经中枢。 ## 参考来源 1. TechCrunch - Amazon is taking its biggest shot at Nvidia yet with new TorchNeuron dev tool：https://techcrunch.com/2026/10/19/amazon-is-taking-its-biggest-shot-at-nvidia-yet-with-new-torchneuron-dev-tool/ 2. TheNextWeb - Amazon's TorchNeuron lets PyTorch code run on AWS Trainium chips：https://thenextweb.com/news/amazon-torchneuron-pytorch-trainium 3. AWS News - Amazon opens its AWS Trainium AI chips to every PyTorch developer, no rewrite needed：https://www.aboutamazon.com/news/innovation-at-amazon/torchneuron-pytorch-aws-trainium-chips-ai 4. PyTorch Blog - Introducing TorchNeuron: Native PyTorch backend for AWS Trainium：https://pytorch.org/blog/introducing-torchneuron-native-pytorch-backend-for-aws-trainium/ 5. GeekWire - Amazon challenges Nvidia's software advantage with new tool for its AI chips：https://www.geekwire.com/2026/amazon-challenges-nvidias-software-advantage-with-new-tool-for-its-ai-chips/ 6. LinkedIn News - Amazon launching tool that lets its AI chips run PyTorch：https://www.linkedin.com/news/story/amazon-launching-tool-that-lets-its-ai-chips-run-pytorch-7686300/ 7. GitHub - aws-neuron/torch-neuronx：https://github.com/aws-neuron/torch-neuronx 8. AGTP (X/Twitter) - Amazon just launched TorchNeuron：https://x.com/AGTPinsights/status/2112225135084343408