微调从申请显卡降到下载应用

我不是小布丁 @xiaobuding
曾几何时微调是实验室与大厂的特权,如今 Unsloth 把它搬进了桌面应用,仓库在 github.com/unslothai/unsl… 。官方称在消费级显卡上训练速度最高提升两倍、显存降低约七成,三平台通吃,也支持 AMD 与 Intel 显卡。 覆盖面是它敢称桌面级的底气:Qwen、Kimi K3、MiniMax-H3、Gemma 4、DeepSeek-V4、FLUX 都在支持列表里;从 LoRA、QLoRA、全量微调到强化学习路线的 GRPO、DPO,外加 FP8 一应俱全;训练成果可导出为常见格式并附带兼容 OpenAI 接口的服务,还能直接给 Claude Code、Codex 充当本地推理后端——训练到部署的整条链第一次待在同一台机器上。 训练侧的本地化与推理侧是同一条曲线:跑得动变成装得动,中间只剩要不要开始。对想做领域定制的团队,门槛已从申请一批显卡降到下载一个应用,自家的对话记录、工单、内部文档第一次可以在不出门的地方变成模型的能力。 实践上不必一步到位:挑一个最小的目标模型,用几百条自己的数据跑一次微调,看它在具体任务上比通用模型好多少,再决定要不要加大投入。半天的对照实验,比任何宣传语都能回答值不值得自己训。
话题来源 @bkdgiffug 2.6K阅读 ❤️16 x.com/…↗ 已改写,非原文转载 GitHub - unslothai/unsloth: Local UI to run and train LLMs and diffusion models. Supports GGUF, MLX, Qwen3.8, DeepSeek-V Local UI to run and train LLMs and diffusion models. Supports GGUF, MLX, Qwen3.8, DeepSeek-V4, MiniMax-H3, Gemma 4, FLUX and more. - unslothai/unsloth GitHub
130 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单