Unsloth 今日发布

Unsloth 是一款专注于本地大模型运行与高效微调的桌面工具，支持 Mac、Windows 和 Linux 系统。它提供一键安装脚本，让用户在本地设备上离线运行 GGUF、Safetensors 格式的模型，并自带 OpenAI 兼容 API 接口，现有应用无需修改即可直连本地模型。Unsloth 的核心亮点在于其自研内核对 LoRA、FP8、FFT 等训练的深度优化，可在消费级显卡上完成 500+ 模型的微调，包括文本、视觉、音频和多模态模型。用户无需编写代码即可从 PDF、CSV、JSON 文件构建数据集并开始训练，全程可视化监控。此外，Unsloth 还支持将 Claude Code、Codex 等 AI 编程助手直接接入本地模型，在保障隐私的前提下享受强大推理能力，还可通过 Cloudflare 隧道从任意设备远程访问本地运行结果。