oMLX 今日发布

oMLX 是一款专为 Apple Silicon Mac 打造的 LLM 推理服务器，通过菜单栏即可管理，支持连续批处理和分层 KV 缓存（热内存层＋冷 SSD 层），即使对话上下文发生变化，历史上下文仍可复用，显著提升本地大模型推理效率。该工具支持 GLM-5.2、MiniMax M3、Qwen3.5 等模型的自定义内核，可选配 MCP（Model Context Protocol）扩展，兼容 OpenClaw、OpenCode、Codex、Copilot 等主流 AI 编程助手。安装方式为下载 DMG 拖入 Applications 即可使用，内置自动更新，macOS 菜单栏提供直观的模型管理和监控界面，适合希望在本地 Mac 上高效运行大模型并进行实际编码工作的开发者。