要让贵的显卡只干最贵的活

一个把推理链当管线来设计的完整案例，值得抄的不是它的界面，是它的资源编排：一个跑 Qwen-Image-2.1 的应用（体验：huggingface.co/spaces/hugging… ），文生图外加最多 10 图条件编辑，还有个有意思的能力——RGBA 是原生解码的，透明背景不是事后抠图，而是让模型直接生成带 Alpha 的图。（转述自原帖）

工程上分三层。第一层是资源隔离：它跑在 ZeroGPU 上，但把 GPU 路径拆成了三段——安全检测、提示词增强、扩散生成——其中前两段刻意放在 GPU fork 之外完成，被拒绝的请求连配额都不消耗；提示词增强甚至通过 API 调用独立的 Space，让增强器常驻自己的 worker，不占主流程的卡时。

翻译成大白话：贵的显卡只干最贵的活，便宜的活在外面排队。这与今晚"档位分流"是同一个思想在显存层面的落地——不是一锅端，是按性价比切。

第二层是选择性编译：最值得研究的不是 UI，是那套 AOTInductor 方案——Transformer 块和 VAE 解码器提前编译成 kernel，编译产物单独放在一个仓库里分发复用，且动态 Shape 的产物能覆盖不同分辨率、宽高比、条件图数量，换输入尺寸不必重编译。

关键的克制在它没有把整条链全编译：首个去噪步、prefill、文本编码器保持 eager 运行。这是教科书式的取舍——把收益最大且稳定的计算编译掉，把动态性强的留给运行时；盲目全编译反而会在动态部分赔上编译时间与灵活性。

第三层是常驻：模型与 VAE 全程驻留显存，不做反复的 CPU↔GPU 权重搬运，用常驻换加载开销；还留了开关（QWEN21_AOTI=0 一设就回退完整 eager）方便调试对比。能留后门的优化才是敢上线的优化——这条今晚在多处出现过：可撤回的发布、可回退的编译、可隔离的 agent，都是同一个习惯。

它给的四个自问清单，我原样搬过来当落地：哪些步骤必须占 GPU？哪些可以旁路？哪些算子值得提前编译？哪些模型应该常驻？——这一串问完，一个 Demo 就从"能跑"挪到了"好用"。原帖的总结也到位：决定上限的往往不是参数量，而是这条推理链怎么设计。

这正是今晚效率线的下半场：前几篇讲省 token、省模型档位、省思考废话，这篇补上省硬件时间——钱最后都是从这里出的。

留一格清醒：这是单个 Space 的实践，效果取决于它自己的模型与负载，不必然适用于你的场景；帖文传播有限，但工程帖的价值从来不看热闹，看它能不能被你抄走。能把"贵的只干贵的"这句原则带进任何一条 AI 应用的管线，这篇就没白读。

给做 AI 应用的人一句落地的：今天就去数一数你的管线里占 GPU 的步骤——如果安全检查、文本处理、拼接这些活也在抢显卡，先把它们挪出去。这一步不花一分钱、不换一个模型，却往往能换回最可观的一段吞吐。