一张 A 卡跑图:比原生栈还快

小白爱摸鱼 @chaozuoye
github.com/nihui/qwenimag… 一张 AMD 卡跑 Qwen-Image,走的还是 Vulkan 这条道,qwenimage-ncnn-vulkan 新加了两样支持。 新增照录。Qwen-Image-2.1 的四步 LoRA 接上了,ControlNet 也接上了。作者给的对比在自己那台 RX9060XT 上测的,比 pytorch-rocm 快,也比 sd.cpp 快,用词是希望这工具能帮上忙。 跨过原生栈这半句是全场重心。前面几篇讲的都是云端谁便宜谁快,这条把画面拉回一张显卡。跟前面本地多模型那篇接得上,那边讲并联,这边讲单卡优化,本地这条路两边都在往里走。跟前面开放权重那篇也呼应,权重下来了,跑它的那套栈也得跟上,缺一块本地就不成局。 Vulkan 这条道也值得记。绕开各家自家的算力栈,换通用图形接口,代价是适配工夫,好处是硬件不挑边。跟前面一份定义两处用是同一个思路,接口统一了谁都能跑。 我留的疑问有三处。快多少是百分比没给,只有"更快";四步 LoRA 的出图质量有没有掉没说;RX9060XT 上的成绩能不能推到别的卡也不知道。 手头有 A 卡的,拿最常跑的那条 prompt 换这个栈跑一遍,记下出图耗时,和原来的栈摆一起看差多少。
话题来源 @nihui 0.6K阅读 ❤️15 x.com/…↗ 已改写,非原文转载
102 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单