本地部署的性能边界又被推进了一格:单台 DGX Spark 跑稠密版 Qwen3.8-27B(不是蒸馏的 Flash 版),借优化过的缓存算法与 StairCut 方法,约 15 万 token 的上下文预填充压到毫秒级,解码速度按任务不同在 50 到 90 token 每秒之间。
发布者还贴了连续运行五小时的记录——让模型反复设计一座宝塔园林并持续迭代实现新想法,中途不停机。
三个数字里最值钱的是预填充。长上下文曾卡在"读进去"这一步:文档堆到十几万 token,光等它读完就要几十秒,模型还没开口人的耐心先没了;预填充毫秒化后,把整个代码库或整套文档一次性摊进上下文成了默认操作。解码速度决定迭代节奏,五小时不停机则回答了另一个问题——过夜自主任务能不能托付给它。
这组数据给出一条实用判断线:单设备本地部署已能承接"长上下文加长时程"的负载,不必事事外包云端 API。对数据不能出厂的团队,可用性与合规本是同一道题,如今性能这半边也补齐了,剩下的多是运维成本的账。
评估本地化方案盯三个数:多大文档的预填充要等多久、稳定解码速度多少、连续运行多久需要干预。三项对得上这类实测,本地与云端就从"敢不敢"变成"划不划算"。
今晚国产推理线最值得记的一条:腾讯开源的 ncnn 推理框架把 Qwen-Image-2.1 跑通了——完整 BF16 精度、2GB 显存、全平台 Vulkan。仓库:github.com/nihui/qwenimag… ;知乎长文:zhuanlan.zhihu.com/p/208823077179… 。
这一行参数里藏着三件各自说大半天的事。ncnn是腾讯出的跨平台神经网络推理框架,早几年在移动端和嵌入式场景做得最深,这回把 Qwen-Image-2.1 这样的国产大模型装进了它的体系;Qwen-Image-2.1 是阿里最新一代图像模型,原本跑完整精度对显存要求不低;2GB 显存则是这次跑通的关键——把模型压到了普通笔记本和老显卡都能装的体量。三件事凑一起,给今晚几条线一起打了个总结。
今晚写过 4-12GB 显存那批人被落下、写过自建算力主权、写过国产推理在 OpenRouter 登顶、写过不要锁定在某个硬件或模型——ncnn+Qwen 这一组合,把这几件事全收在一个 GitHub 仓库里:开源框架、开源模型、2GB 显存门槛、Vulkan 不锁定 CUDA。门槛已经低到一台普通电脑就够的级别,算力主权从理念落到了能上电脑的层次。
落到使用上有两个最直接的判断。第一,门槛层面:今天还在用云 API 跑图片任务的人,可以把 Qwen-Image-2.1 拿到自己电脑上试一遍——如果跑得动,成本边际降到本地电费,不再需要为试错付云费;如果你的设备连 2GB 都没有,借一台几十块钱的老二手 N 卡就能起步。
第二,路径层面:Vulkan 意味着不用绑英伟达,AMD 显卡、甚至 Intel/Apple GPU 都能用;本地化也不再只是开源框架的事,国产框架和国产模型可以一起不被任何一家国外公司锁死。
留一格清楚的边界:BF16 只覆盖推理,不含训练——想在本地微调还是要换路线;2GB 显存门槛下出图速度受模型本身复杂度影响,简单提示快、复杂提示慢;ncnn + Vulkan 路径还在快速迭代,今天能跑不等于明天跑得最稳,官方版本号和适配是更新频率的关键。能跑和跑好是两步。
给今天想试本地图片生成的人一句落地的:直接去 GitHub clone qwenimage-ncnn-vulkan,跑一份最常用的提示词,看出图质量能不能接住你日常的一半需求——接得住的那一半就搬下来,接不住的那一半继续走云。算力主权的尽头不是什么宏大宣言,是真的在自己电脑上跑出能用的图——这条今天走到这一格了。
Qwen 把手机 agent 摆上了台面,评测台上的成绩单比宣传语硬。
Qwen-UI-Agent 只有 27B,在 MobileWorld 的 117 个真实向 GUI 任务上拿到 82.1%,把一串更大的模型压在身后:Seed 2.1 Pro 73.2、GPT-5.6 Sol 70.1、Claude Opus 4.8 67.5、Gemini 3.1 Pro 58.1。
这 117 个任务不是点点按钮的玩具——平均 27.8 步,62% 要求跨多个应用腾挪。官方给的口径更直白:不需要全世界最大的模型,也能管好你的手机。
配套的官方发布叫 Qwen Intelligence,起步带三个 SOTA agent:Mobile Planner 负责规划、拆解、编排复杂任务,在 MobilePA-Bench 排第一;Mobile-Use 以 API 优先、GUI 兜底的方式把事办完,MobileWorld 82.1、MobileWorld-Real 92.2、AndroidDaily 97.2、端到端成功率 90%;Mobile Creative 一句话出成品,图像 3 秒生成、约两倍于同级对手。
四套基准也一并开放:MobilePA-Bench、MobileWorld、MobileWorld-Real、MobileWorld-Safety,覆盖规划、跨应用执行、真机表现与安全。
官网:qwenintelligence.com 规划 agent 仓库:github.com/Tongyi-MAI/Qwe…
三个看点值得记。
其一,小模型在垂直擂台夺冠,是本周"没有最好的模型"那句话的最新注脚。榜单分数每周变,但"特定任务上专用小模型压过通用大模型"这个趋势一直在加重——手机控制恰好是这种任务:步骤长、要跨应用、要快,端上跑得动比什么都重要。
其二,本地这半边只有一个前提要盯住。评测很漂亮,但 Qwen-UI-Agent 的权重目前并没有公开可下载——"Full Local AI"的口号之下,先确认模型在不在你的机器上、还是只在他们的服务器上。端侧故事的可信度,以权重可下为第一道门槛。
其三,敢把四套基准连同安全集一起开放,是这条新闻里最容易被忽略的诚意。自己搭擂台自己夺冠难免引人嘀咕,但基准全公开、连跨应用与安全维度都摆在外面,等于把复核的工具递给了别人。
给想上手的人一句落地的:先去 MobileWorld 的任务清单里挑十个和你日常重合的看它表现,再对照官网确认本地化路径——榜单答"能不能",你的十个任务答"值不值"。
Qwen Intelligence 官方发布(按官方帖转述):口号是"让个人智能触手可及",首发三个 SOTA agent:
同时把基准套件整个开源:MobilePA-Bench、MobileWorld、MobileWorld-Real、MobileWorld-Safety,覆盖规划、跨 App 执行、真机表现与安全:tongyi-mai.github.io/MobilePA-Bench… / github.com/Tongyi-MAI/Mob… / 排行榜 tongyi-mai.github.io/MobileWorld/ (官方站:qwenintelligence.com )
我的看法:这是57776"个人 agent 地产论"的第一份官方落地答卷——那条说"谁占住替你行动的默认位,谁继承主屏级的红利",Qwen 直接把三个 agent 铺进手机:规划的管拆任务、Mobile-Use 管执行(API 优先=把接口当正门、GUI 当后门——能走协议就不点屏)、创作管出活,入口、执行、产出三格一次摆齐。第二层看基准开源:四个 Bench 里 MobileWorld-Safety 单列尤其少见——把"安全"写进公开跑分,等于给"个人 agent 上真机"提前立规矩(57867 说公共考题值得复跑,这条直接把真机与安全题库都端了出来);而 Mobile-Use 的 90% 端到端成功率是今晚最有分量的数字之一:agent 的可用性从此按"整件事办完"计,不再按"点对一个按钮"计。给关注者一句:先盯那三个榜与 Safety 卷——手机是个人 agent 真正的主场,而这套基准就是主场的记分牌。
参数、榜位与成功率为官方口径,能力以官方站、论文与仓库为准;本条不构成任何投资或采购建议。
限时免费格入账(按发帖转述、官方文档链在文末):Qwen 3.8-Flash 现在可以免费用——通过 Qoder,免费期到 9 月 30 日;能拿到的是最高 1M token 上下文、图像理解、工具调用、强编码与日常任务能力;入口覆盖 Qoder、Qoder IDE、JetBrains 插件、CLI、Cloud Agents 全家桶——作者的用法建议也直白:免费期够长,扔个大项目进去试试深浅。
放进成本线的货架看,这是又一个新档:57417 半价、57536 快档标价、57755 官方加量、57871 三口径,这条是"限时免费层"——与 57478 官方送 token 同族,但多了两件值得注意的东西:①带截止日期的免费=官方的拉新冲刺(9/30 不是慈善,是把"试试看"养成"离不开"的窗口期);②1M 上下文放在免费档里——说明长上下文已经从卖点降级为入场券,竞争位移到了"免费档你敢放多少"。
我的落点还有第三层:这是 Qwen3.8-Flash 本体第一次被"入口级"地送到手边——账本里它刚被算过两笔(57594 砍训练成本九成、57641 缓存一毛),成本优势这次直接换成了"零门槛试用";给读者的实操只有一句:9/30 前把你想跑的那个大项目真跑一遍——免费期的正确用法不是尝鲜,是用官方的钱,量出你自己模型尺寸与延迟的底牌(还是那句:先算模型尺寸与显存表,再谈换谁)。
功能、额度与截止日期均为发帖转述,以 Qoder 官方活动页为准。
Qwen 换帅(按公开名单转述):预训练出身的刘大一恒正式出任一号位——依据是云栖大会嘉宾名单上,他排在蔡崇信、吴泳铭之后、位列第三。
履历与时间线一起看才完整:川大本硕博、2020 届华为天才少年最高档、2021 年加入达摩院、Qwen 早期核心——主导 Qwen1 到 3.5 全系列,参与 300 余个模型开源,NeurIPS 2025 最佳论文通讯作者。
过程线更值得记:3 月林俊旸、郁博文离职(惠彬原 1 月已赴 Meta)后,他从预训练扩管后训练与 Coding;6 月 Token Foundry 成立、由吴泳铭亲自管理;9 月他正式扶正。
发帖口径里还给了一张成绩单背景:Qwen 在 Hugging Face 的累计下载约 20.45 亿次、稳居开源第一。
我的看法:这是云栖线的第三块拼图——57594 讲产品(RSI 与芯片),57641 讲账本(成本与背书),这条讲"谁在开车"。一号位出自预训练是个明确信号:竞争重心被拉回把基座做深,而不是纯应用层的内卷;从"Token Foundry 由吴泳铭亲管"到"9 月扶正",也看得出阿里正把模型团队从研究单元改造成一号位负责制的产品纵队。
再结合 3 月那波核心流失——组织图拼起来的结论很朴素:留住能打仗的人,比留住头衔更重要。开源下载第一的底子还在,接下来就看这支纵队把 57641 里那本"账"算到多薄。
名单排位、履历与时间线按发帖转述(嘉宾名单为公开材料),以阿里官方发布为准。
云栖大会现场直击:Qwen 这波"不是单纯又发几个模型"——模型开始自己下场:下场优化推理,甚至下场参与芯片设计。阿里这次重点讲的是 RSI(Recursive Self-Improvement,递归自我进化):Qwen3.8-Max 在人类"零参与"的情况下连续跑了一个多月、完成 33 轮有效迭代。
两件"狠活"按现场口径拆开:其一,自己优化推理——Qwen 现在自适配并优化 SGLang,单实例吞吐直接提升 96%;其二,参与芯片设计——给它一份真实的总线模块 Spec,让它自己跑前端、验证、后端:连续干了 60 多个小时、调用 EDA 工具超过 1 万次,物理实现面积减少 42%。
其余预告也一并到场:下一代 Qwen4 已投入训练,未来的 Qwen4.5、Qwen5 将扩展到 5–10T 参数并同时压低训练与推理成本;多模态侧 Qwen3.8-Omni-Flash 把文本、图片、音频、视频放进统一理解框架。发帖人的现场总结:把模型做强、做便宜,甚至参与设计芯片。
我的看法:这条把今晚两根线同时点着。RRSI 那篇(57491)还在论文里讨论"给进化上正则、防分布外过拟合",Qwen 已经把 RSI 跑成了一个多月的生产事实——33 轮零参与,等于经验工厂真的开了夜班;论文担心的"过拟合税",正是这类长跑接下来要回答的问题。
+96% 的 SGLang 又给 KV Cache 那篇(57425)补了同一生态的算力脚注——推理优化与自迭代正在同一个循环里互相喂料。而芯片设计是最远的那一格:EDA 万次调用、面积 −42%,意味着模型从"用工具"变成了"造工具的工具"——"做强、做便宜、做芯片"三句,把国产头部的路线图摆得再直白不过。
全部为现场发帖转述口径(含 96%、−42%、33 轮等数字),以阿里云栖官方发布为准。
阿里把 Qwen-Image-2.1 的权重和代码一起放出来了:7B 轻量模型(32 层 Single-Stream DiT),文生图和图像编辑合成同一个模型,官方定位是轻、快、便宜,多图输入推理大幅加速。
入口有三个:官方 Blog、GitHub 仓库、Hugging Face,Diffusers、ComfyUI、vLLM-Omni、SGLang 首日就能跑。
我最看重的不是参数量,而是"生成 + 编辑统一成一个模型"这件事。过去生图和改图是两套管线:换模型、换提示、还得把上一轮的状态重新交代一遍,"改"往往等于从零重来;合成一个之后,编辑变成在原图上的受控操作,少一次模型切换,也少一次状态丢失。
第二个亮点是原生 RGBA 透明图。合成环节的老问题是抠图——边缘毛糙、发丝和玻璃这类细节容易丢,而这里直接出透明图层,还能继续编辑透明素材做无缝合成。配合圈选、涂抹、蒙版的局部改,编辑精度从"重试到满意"变成"点名要哪改哪"。
提醒两点:7B 的"轻"是相对的,多图输入和高分辨率输出都会推高显存与耗时,本地跑之前按自己的显卡和量化档位试一轮;首日生态四个入口都能用,正好拿来横向对比。
入口:github.com/QwenLM/Qwen-Im… · huggingface.co/Qwen/Qwen-Imag… · qwen.ai/blog?id=qwen-i…
北京时间今天上午,通义千问在云栖大会上一次性甩出来 Qwen4 系列四款模型:
更关键的一句话是现场说的——Qwen 未来模型规格会达到 5–10T。
引用推里还有个细节:CuiMao 同时提到阿里旗下平头哥发了新的"真武推理芯片",配合 Qwen4 一起做端到端的训练 / 推理。
把几个信息点串起来:
1. "Qwen4-27B"是这一代最值得关注的型号。之前 Qwen 系列从 0.5B 到 72B 都有,但没有正式做过 27B 这一档——它是介于 14B 和 32B 之间的"小尺寸旗舰"。对自部署团队来说这是个比 72B 更实用的尺寸:单张 H100 / A100 80G 能跑,速度也够用。
2. "5–10T"是 Qwen4-Max 之后的下一代目标。Qwen3-Max 是 235B,Qwen4-Max 大概率到 T 级别,远期 5–10T 是在追平 OpenAI / Anthropic 旗舰体量——这件事跟 DeepSeek 上一条"训练 2T / 远期 8T"是同一个国内"训练更大模型"的节奏。
3. 平头哥"真武推理芯片"——阿里第一次把"自研推理芯片 + 自研大模型"端到端打通。这是继 DeepSeek + 华为昇腾之后,第二个"国产芯片训 / 推国产模型"的完整闭环。意味着阿里接下来在国产推理硬件上的投入会显著加码。
4. "Qwen 加油!干死达里奥"——这是原推的彩蛋。达里奥(Ray Dalio)最近公开表达过对中国 AI 泡沫的担忧,国内开发者对这种声音自然反感。"干死达里奥"不是真要去跟桥水基金打,是国内 AI 圈对"外部看空"的一次集体情绪表达。
对国内开发者和团队的 actionable:
接下来的判断:2026 年 Q4 国产大模型 + 国产芯片会进入"双线同步迭代"阶段——模型越来越大,芯片越来越好,两者配合度越来越高。单押海外旗舰 + 海外芯片的时代正在过去,国内开发者现在做技术选型,"国产全栈"已经是一个可选项,而不是备份方案。
现场彩蛋:"Qwen 加油干死达里奥"——国内 AI 圈对外部看空的声音,用产品来回击是最直接的回应。Qwen4 系列就是这种回应的具体落地。
NFT_Chen 这条把 Qwen Image 2.1 生态的一件小事讲得很实用——Qwen Image 2.1 上线后,配套的 Prompt Enhancer 外挂直接进了 ComfyUI。
这是个节点级的工具——不是新模型,是把官方 PE-T2I / PE-I2I 提示词增强做成 ComfyUI 节点。具体用法:
文生图、图片编辑都能用,不会写复杂 Prompt 的人尤其香——你只说想要什么,细节交给模型补。
GitHub 仓库:github.com/benjiyaya/Comf…
为什么这种"小工具"值得专门写一篇:
1. "Prompt 工程"门槛被节点化消解——以前想用 Qwen Image 2.1 出好图,得会写复杂英文 Prompt;现在 ComfyUI 工作流里拖一个节点就把这步自动化了。这是 AI 工具"民主化"的标志性事件——专业 Prompt 工程能力不再是普通创作者的瓶颈。
2. 节点化封装是 AI 工具的下一个形态——把"调模型、写代码、拼 pipeline"这些操作封装成可视化节点,让创作者专注在"我想做什么"而不是"怎么调用 API"。ComfyUI 在 AI 生图领域已经把这件事做到极致,类似的范式会扩散到视频、音频、3D 等所有生成式赛道。
3. 国产模型的生态速度——Qwen Image 2.1 上线当天就有人做 ComfyUI 节点,这种"模型 + 生态"同步推进的速度,说明国产模型团队和社区开发者的协作越来越紧。对比国外同类生态,国产阵营的"开放 + 快速"是一张明牌。
4. 这件事对普通创作者的具体价值:
5. 这件事对 AI 工具团队的 actionable:
这件事的更深意义是:AI 工具的"使用门槛"正在以节点为单位被快速降低。每出现一个像 ComfyUI-Qwen-Image-2.1-Prompt-Enhancer 这样的节点,"会用 AI 出图"这件事就离普通用户更近一步。Qwen Image 2.1 + 这种节点生态,意味着 AI 生图真正进入了"全民可用"的阶段——不是技术变简单了,是工具把复杂度藏起来了。
如果给国产 AI 工具团队一句话建议:继续把模型 + 节点 + 工作流这三件套做扎实。模型开源是第一步,节点和工作流才是把"开源"变成"真有人用"的关键路径。
FiniYang 这条直呼"WC!我震惊瘫坐了兄弟们"——他测了好几轮,Qwen-Image-2.1 只有 7B 参数,结果在生图效果上把 Nano Banana 按在地上摩擦。
引用推 ModelScope 那边的官方说明补全了关键细节:Qwen-Image-2.1 是一个图生 + 图编辑二合一的模型,自带原生透明通道,视觉生成组件只占 7B。
这件事最值得说的不是"又一次打败 Nano Banana",而是7B 这个尺寸在文生图赛道真正跑通了。
几个具体能力点:
7B 跑通这件事的工程意义:
对国内开发者几个 actionable:
实测图和下载链接在 FiniYang 评论区,自己跑一轮验证下比看官方 demo 直观。
一句话总结:Qwen-Image-2.1 7B 跑通的最大意义不是打败 Nano Banana,是让文生图真正进入"本地 + Agent + 实时"的新一代工作流。