生图本体进手机:490秒的端侧HelloWorld

会飞的荧 @feitu

Qwen-Image-2.1 手机版来了(按转述):HF 社区已把 Qwen-Image-2.1 转成 MNN 格式,在 Android 端侧纯本地跑文生图和图像编辑。

三个亮点照录:①纯端侧——基于 Android OpenCL GPU 跑 DiT 架构,不依赖任何云端服务器;②极致量化——核心 7B DiT 与 8B 文本编码器都压到 INT4,大幅降低手机内存压力;③多分辨率——主打 512×512,也支持边长为 32 倍数的各种长宽比。

实测数据也很诚实:骁龙 8 Gen 2(16GB 内存)上生成一张 512×512、20 步的图约 490 秒——慢,但按作者的说法,这是端侧 AI 生图迈出的一大步;Android 运行时、库与 Demo App 源码同步开源(传送门见原帖,主帖未附外链)。

我的看法:这是 Qwen-Image 线的第四击——"手机端侧"(门槛 57518、四坑 57780、生图 Skill 57859 之后,战线从桌面挪进了口袋);它同时与今早刚发的"把 agent 本体搬回家"(58385)接成本地线的第五件——那边是 agent 的大脑在本机、这条是生图的手在手机:端侧的意义从来不是快,是"不求人"——490 秒确实慢,但断网可用、数据不出机、零 token,这三样桌面线已经证明值钱(58385),手机线只会更刚需。

INT4 那手也照着降配曲线的剧本走(57518 三件套、57835 的 309B/15B 激活):手机内存是硬约束,量化就是通行证——7B+8B 双双 INT4,本质是把"能不能装下"先解决,再谈"跑多快"。

给想尝鲜的人一句:别拿 490 秒和云端比速度——把它当离线创作工具用:高铁上、飞机上、没信号的现场,能出图本身就是那一步;等哪天这个数字掉到几十秒,回头看今天这 490 秒,就是端侧生图的"Hello World"时刻。

格式、量化、分辨率与耗时均为转述(传送门在原帖),以 HF 社区与仓库说明为准;性能随机型差异较大。

话题来源 @Lonely__MH 13.4K阅读 ❤️94 x.com/…↗ 已改写,非原文转载 Lonely (@Lonely__MH) on X 🥳继续起立!Qwen-Image-2.1 手机版来了!! 太劲爆了!HF社区已经有人把 Qwen-Image-2.1 成功转换为了 MNN 格式,实现了在 Android 端侧纯本地运行文生图和图像编辑! 🔥亮点如下 1. 纯端侧运行:基于 Android OpenCL GPU 跑 DiT 架构,不依赖任何云端服务器 2. 极致量化:核心 7B DiT 和 8B 文本编码器均做到了 INT4 X (formerly Twitter)
138 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单