TileLang Ascend
## 产品简介 TileLang Ascend(github.com/tile-ai/tilelang-ascend)
产品简介
TileLang Ascend(github.com/tile-ai/tilelang-ascend)是面向华为昇腾 NPU 的高级编译语言与算子库,由 tile-ai 组织联合 DeepSeek、华为昇腾生态团队于 2026 年 9 月 30 日正式开源并对外宣布,构成「DeepSeek 国产替代 CUDA 工具链」的核心入口。它在 Python 风格的 tile-lang DSL 基础上叠加昇腾 Ascend C 与 PTO 指令后端,让开发者用同一套高级语言就能写出对标 NVIDIA CUDA 与 AMD ROCm 的昇腾高性能 AI 算子,覆盖矩阵乘、稀疏注意力、向量运算、跨核 shared memory 通信等关键路径。
核心功能
- Python 风格 DSL:保留 tile-lang 的 Pythonic 语法,使 PyTorch 用户几乎无门槛上手,无需手写 Ascend C 原生指令。
- 双后端代码生成:同时支持 Ascend C & PTO 路径与 AscendNPU IR 路径,可在「极致手工调优」与「算子图自动优化」之间切换。
- 高性能 GEMM 算子库:内置面向昇腾 NPU 优化的通用矩阵乘实现,可直接替换 cuBLAS 级别的常用算子。
- Flash Attention / Sparse Flash Attention:在昇腾上跑出与 NVIDIA GPU 对标的高吞吐与低延迟 attention 算子,配套 benchmark 与优化指南。
- ACLGraph 集成示例:支持 ACLGraph 图级优化,把多个算子一次性整图编译,进一步压低运行时开销。
- shared memory put/get 原语:跨 AI Core 通信可直接调用 shared memory put/get API,简化分布式 attention 与 all-to-all 通信算子开发。
- torch_tl_ascend PyTorch 集成:通过 PyTorch 集成示例,PyTorch 训练脚本可一行切换到昇腾后端,无需重写数据流。
- T.Pipelined 软件流水线:内置软件流水线原语,支持 tile 级指令级并行,进一步提高 NPU 算子吞吐。
特色优势
TileLang Ascend 与同阵营的 DeepGEMM-Ascend、DeepEP-Ascend、TileKernels、FlashMLA、DeepSelect 共同构成 DeepSeek 一次性开源的昇腾六件套。它们与英伟达平台上的 TileLang、DeepGEMM、DeepEP、TileKernels、FlashMLA、DeepSelect 一一对应,几乎是把整套基础设施栈从英伟达平移到昇腾的「国产替代 CUDA」方案;DeepSeek 这一动作直接降低了开发者从 CUDA 迁移到昇腾的门槛,缓解国产 AI 芯片排产压力。
应用场景
- 大模型训练与微调:把 PyTorch 训练脚本一键切换到昇腾后端,无需改动模型代码。
- 大模型推理部署:以 Flash Attention / Sparse Flash Attention 算子替换 CUDA 上的同类实现,落地国产推理集群。
- 算子自研:研究者可基于 Python 风格 DSL 快速实验自定义算子,无需深入 Ascend C 原生指令。
- 国产化替代:在政策、客户场景要求使用国产芯片时,作为 CUDA 替代栈的入口。
- 教学与培训:作为高校国产 AI 芯片课程的实践项目,让更多学生熟悉昇腾生态。
适用人群
AI 工程师与大模型研究员、PyTorch 用户想平滑迁移昇腾、国产 GPU 替代团队、昇腾生态合作伙伴、AI 算子开发者、需要图级优化的高性能计算工程师、AI 教学与培训讲师。
出品方
DeepSeek(深度求索)联合华为昇腾、tile-ai 社区团队。仓库由 tile-ai 组织托管,README 与 OpenCVC 文档由社区共同维护;DeepSeek 同时维护 DeepGEMM-Ascend、DeepEP-Ascend、TileKernels、FlashMLA、DeepSelect 等配套开源组件。
更新动态
2026 年 9 月 30 日 DeepSeek 通过官方公众号公开宣布,包括 TileLang Ascend 在内的昇腾六件套全部开源。仓库近期主要更新包括:04/24/2026 发布 DeepSeek V4 kernels;03/28/2026 发布 Flash Attention 与 Sparse Flash Attention 性能基准;03/16 提供 pip wheel 安装;03/12 引入 ACLGraph 集成示例;03/03 支持 shared memory put/get API;01/29 发布 TileLang-Ascend 编程指南;01/23 落地 PTO 后端;01/21 发布 torch_tl_ascend PyTorch 集成示例。
官网链接
GitHub:https://github.com/tile-ai/tilelang-ascend
姊妹项目:https://github.com/deepseek-ai/DeepGEMM-Ascend
姊妹项目:https://github.com/deepseek-ai/DeepEP-Ascend
昇腾开源文档:https://ascend.github.io/docs/
评论与建议
登录 后参与评论或提建议