llama.cpp 1.0.0 支持 150+ 模型架构

时间：2026 年 11 月 13 日，开源 AI 推理项目 llama.cpp 与底层机器学习引擎 ggml 正式发布 1.0.0 稳定版。这一里程碑版本由 ggml-org 团队（现隶属于 Hugging Face）发布，标志着该项目在历经 3.5 年开发后进入全新阶段。 地点：此次发布面向全球开发者社区，通过 GitHub、Hugging Face 以及多个主流软件分发渠道同步上线。预编译产物覆盖 Linux、macOS、Windows、Android 和 iOS 五大平台，同时提供 Docker、Debian、Homebrew、conda-forge、MacPorts、Winget 和 XCFramework 等打包方式。 人物：llama.cpp 创建者 Georgi Gerganov（X 账号 @ggerganov）在个人推文中宣布了这一版本。Hugging Face 官方博客列出的核心作者包括 julien-c、ggerganov、clem、pcuenq、raunoryys 和 nisbenz，另有 104 位社区贡献者参与。Gerganov 现为 Hugging Face 工程师，此前已开发出 whisper.cpp 等多个知名本地 AI 工具。 事件详情：1.0.0 版本最核心的变化是引入严格的语义化版本控制规则。libllama 和 libggml 两个库今后将通过主版本号升级明确标记 API 或 ABI 不兼容变更：MAJOR 版本用于公共 C API 破坏性变更，MINOR 用于向后兼容的功能更新与模型支持扩展，PATCH 用于无 API 改动的 bug 修复。项目目前支持超过 150 种模型架构变体及所有主流推测解码方法，硬件后端覆盖 NVIDIA、AMD、Qualcomm、Arm、IBM 和 Intel。团队还借助 Hugging Face 的 HF Buckets 和 HF Jobs 扩展了 CI 基础设施，在六大硬件平台上部署了自托管测试运行器。 背景：llama.cpp 于 2023 年初由 Georgi Gerganov 发起，最初只是一个用 C/C++ 编写的小型 LLM 推理工具。随着本地部署和隐私计算需求增长，项目迅速成为全球最受欢迎的本地 AI 推理引擎之一。过去 3.5 年里，下游应用对其库接口的依赖日益加深，但项目此前并未对 API 稳定性做出正式承诺，这给企业级集成带来一定风险。 影响：引入语义化版本控制后，依赖 libllama 的下游产品将获得明确的 breaking change 合同，企业发行版和 Linux 发行维护者可以更放心地将其纳入长期支持清单。150+ 模型架构的支持意味着开发者无需切换框架即可在不同硬件上运行多样化模型，配合 FP8 KV 缓存、MoE 模型 host memory 缓存优化、OpenAI 兼容语音生成端点等新特性，本地 AI 产品的开发门槛进一步降低。Open WebUI 等上层应用已同步更新文档，确认兼容 v1.0.0。 总结：llama.cpp 1.0.0 的发布不仅是版本号的变化，更是本地 AI 生态从「快速迭代工具」走向「企业级基础设施」的分水岭。明确的 API 兼容性承诺、跨六大硬件平台的后端覆盖、以及 150+ 模型架构的支持，让开发者和企业能够在个人电脑、服务器乃至移动设备上更稳定地部署私有 AI 应用。随着隐私计算和边缘 AI 需求持续增长，这一里程碑版本有望成为未来几年本地推理生态的基石。 参考来源： ggml-org 发布 llama.cpp v1.0.0 https://github.com/ggml-org/llama.cpp/releases/tag/v1.0.0 Hugging Face 官方博客：llama.cpp v1.0.0 为本地 AI 生态构建更强基础 https://huggingface.co/blog/ggml-org/llama-cpp-v1 AI Weekly：llama.cpp 发布 v1.0.0，libllama 与 ggml 引入语义化版本控制 https://aiweekly.co/alerts/llamacpp-ships-v100-with-semver-for-libllama-and-ggml IT之家：本地推理引擎 llama.cpp 1.0.0 史诗级更新 https://www.ithome.com/1/027/019.htm 网易：断网也能跑满血大模型？本地 AI 界最火的基石神器发布 1.0 正式版 https://www.163.com/dy/article/LBMBHOUD0511B8LM.html Open WebUI 文档：Open WebUI & llama.cpp https://docs.openwebui.com/alternatives/llama-cpp/ 第一电动网：llama.cpp 与 ggml 库版本迈入 1.0.0，明确 API 兼容规则 https://d1ev.com/newsflash/316942#comment