llmfit 今日发布

llmfit 是一款终端工具，帮助用户在本地硬件上找到最适合运行的大语言模型。它能自动检测系统的 CPU、GPU（支持多 GPU）、内存配置，从数百个模型和推理服务提供商中筛选出真正能在本地流畅运行的模型选项，并按质量、速度、硬件适配度、上下文长度等多个维度给出评分。工具提供交互式 TUI 界面和传统 CLI 两种模式，支持 MoE 架构、动态量化选择、速度预估，以及 Ollama、llama.cpp、MLX、LM Studio、Docker Model Runner 等本地运行时。llmfit 还支持模型基准测试分享功能，用户可将自己机器上的实测数据贡献回项目，帮助其他拥有相同硬件的用户获得准确的运行预估数据。支持 macOS、Linux、Windows，安装方式包括 Homebrew、Scoop、pip、uv、Docker 以及直接下载二进制文件，macOS 用户还可通过 brew install 一键安装。