LLMFit 今日发布

LLMFit 是一款终端工具，帮助用户在本地硬件上找到最适合运行的 LLM 模型。它能够自动检测你的系统配置——包括 RAM、CPU 和 GPU 规格——然后对数百个模型和推理提供者进行质量、速度、适配度和上下文长度等多个维度的评分，最终告诉你哪些模型在你的机器上真正能流畅运行。

LLMFit 支持本地推理运行时包括 Ollama、llama.cpp、MLX、Docker Model Runner 和 LM Studio，也支持云端模型提供者。它能处理 MoE 架构模型、多 GPU 配置和动态量化选择，并内置速度估算功能，让你在下载模型之前就能预估实际推理速度。

LLMFit 提供交互式 TUI 界面（默认模式）和传统 CLI 模式两种使用方式。新版本还支持基准测试分享功能：用户可以在自己的机器上实测模型的真实 tok/s 性能，然后将结果以 PR 形式贡献回项目。这些实测数据会自动整合进项目的适配表中，后续使用相同硬件的用户无需自行测试就能获得准确的性能数据。

对于想本地运行 LLM 但不确定该选哪个模型的用户来说，LLMFit 是一个实用的筛选工具。它解决了「这个模型能不能在我这台机器上跑」这个最基本但最难回答的问题，让本地 LLM 选型从试错变成有数据支撑的决策。项目使用 Rust 编写，安装方式为 cargo install llmfit 或通过 crates.io 安装。