TileLang

Pythonic 语法 + 多后端编译，让 kernel 开发告别 CUDA 细节

AI编程开发部分免费

访问官网 ↗

产品简介

TileLang（tile-lang）是一款专为高性能 GPU/CPU/NPU kernel 开发设计的简洁型领域专用语言（DSL）。它基于 Apache TVM 编译器栈，采用 Pythonic 语法，让开发者可以专注于算子逻辑本身，无需纠缠 CUDA/ROCm/Metal 的繁琐细节。无论是矩阵乘法（GEMM）、反量化 GEMM（DeQuant GEMM）、FlashAttention 还是 LinearAttention，都能在 TileLang 中用几行代码写完。

核心功能

Pythonic DSL 语法：用 Python 写 kernel，自动 lowering 到 CUDA、ROCm、Metal、LLVM CPU 与华为昇腾 NPU。
多后端代码生成：统一一套源码输出到 CUDA（Hopper/Blackwell/Turing）、AMD ROCm、Apple Metal、CPU、昇腾 950 等目标平台。
深度学习算子模板：内置 GEMM、DeQuant GEMM、FlashAttention、LinearAttention、Block-Causal Attention、Scan 等十余类常见算子示例。
自动调度与同步：编译器自动处理内存访问、warp-specialized pipeline、SM-to-SM cluster 拷贝等低层优化。
并行自动调优 (Parallel Autotune)：在多卡上对 tile 参数、调度方案做并行搜索，迅速逼近手工调优的最优性能。
LSP 语言服务：编辑器内悬浮提示 buffer shape、dtype、scope 与推断 layout，附带 inlay hint 与精确诊断。
Pass Visualizer / IR Diff：可视化编译器各阶段 IR 变换，便于深度调试。

特色优势

TileLang 的核心壁垒在于「一套源码覆盖整个 AI 加速器生态」。2026 年 9 月 30 日正式支持华为昇腾 950 NPU 原生代码生成，让国产算力的 kernel 移植门槛大幅下降。同一份 kernel 源码既能跑在 H100 上，也能跑在 M5 Mac 上，还能跑在昇腾 NPU 上，无需为每个平台重写。

应用场景

大模型训练算子开发（MLA、Mamba、MoE 等新型算子）
推理引擎优化（量化 kernel、长上下文 attention）
国产 NPU 算子适配与迁移
Apple Silicon GPU 加速（Metal 4 simdgroup）
学术研究：DeepSeek V3.2 sparse MLA、Diffusion LLM 等前沿结构复现

适用人群

高性能计算工程师、深度学习编译器研究者、kernel hacker、推理引擎开发者、国产 NPU 适配工程师。

出品方

tile-ai 团队（开源社区项目）。

更新动态

2026-09-30 新增昇腾 950 后端；2026-08-04 开源 TileLang LSP；2026-08-03 发布 v0.1.13，新增多后端语言方言；近期合入 DeepSeek V3.2 sparse MLA backward、Metal 4 cooperative-tensor GEMM、SM120 NVF4 block-scaled MMA 等多项优化。

官网链接

https://tilelang.com/

GitHub 仓库：https://github.com/tile-ai/tilelang