有本地显卡或者大内存Mac的朋友,HuggingFace就是你的免费武器库。我花…

有本地显卡或者大内存Mac的朋友,HuggingFace就是你的免费武器库。我花了一周时间,把Qwen系在HuggingFace上真正值得下载的仓库全部理了一遍。

先搞清楚一件事:HuggingFace上Qwen相关的仓库成百上千,但你只需要看三层:

  1. 官方基座,一切的起点
  2. 社区量化,让27B塞进你的单张显卡,这才是个人玩家的入场券
  3. 去审查/蒸馏,目前社区真正在卷的方向

下载量最高的,往往是能本地直接跑起来的量化包。记住这个判断标准,下面的推荐会清晰很多。

基座:先站对起跑线

现在的主力是8月发布的Qwen3.8-27B,全站点赞第一,没有争议的当家花旦。
huggingface.co/Qwen/Qwen3.8-2…
要速度、要长上下文?直接上Qwen3.8-Flash-Next,官方的极速版。
huggingface.co/Qwen/Qwen3.8-F…

量化:整个3.8生态里下载最猛的一层

这一层才是大多数人真正会用到的东西:
N卡用户看这两个:

  • unsloth的GGUF,单仓下载已经破935万,恐怖数字

huggingface.co/unsloth/Qwen3.…

  • Blackwell架构走NVFP4

huggingface.co/unsloth/Qwen3.…

Mac用户看这两个:

  • 实际下载量最高的是lmstudio-community的MLX 4bit

huggingface.co/lmstudio-commu…

  • 想跟主线版本的用mlx-community

huggingface.co/mlx-community/…

冷门基座的量化,bartowski还在每天更新,劳模。
huggingface.co/bartowski/Qwen…

去审查:3.8这一代出奇地热闹

想要模型少拒绝、少说教、开启神奇之门?这条线今年特别活跃。
合集最全的是huihui-ai。
huggingface.co/huihui-ai/Huih…
但下载量最高的其实是JonathanColetti的Uncensored,高达214万下载。
huggingface.co/JonathanColett…
另一个口碑很好的是OBLITERATUS。
huggingface.co/OBLITERATUS/Qw…

蒸馏:大模型的脑子,小模型的电费

empero-ai把3.8蒸馏到2B/4B/9B,边侧部署最省心。
huggingface.co/empero-ai/Qwen…
还有一条野路子:拿闭源模型的推理轨迹回蒸Qwen。Jackrong这只4B跑得很开。
huggingface.co/Jackrong/Qwen3…
想了解方法论的,DistilQwen把教师模型拆成Instruct/Thinking/Coder三条线,写得最清楚。
huggingface.co/collections/re…

语音&OCR:别走弯路

语音识别,Hojo-ASR-Multi-V1就是默认答案,多种语言支持,强制对齐。
huggingface.co/HojoAI/Hojo-AS…
OCR,说句实话,这个赛道今年被别家抢走了,Qwen系不占优。直接试这三个:
huggingface.co/baidu/Unlimite…
huggingface.co/deepseek-ai/De…
huggingface.co/zai-org/GLM-OC…

微调模型基本断档

垂直微调在3.8上基本断档了。社区的算力全砸去做量化和去审查,医学、法律、金融几乎没人接新基座。例如,医学方向现在最活跃的反而不在Qwen上,推荐Lingshu-7B。
huggingface.co/lingshu-medica…
真要做垂直场景?别等别人的仓库了,自己在3.8上LoRA更快。

话题来源 @wquguru 12.2K阅读 ❤️83 x.com/…↗ 已改写,非原文转载
18 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单