ODS

产品简介

ODS（Osmantic Deployment System）是由 Osmantic（Light-Heart-Labs）开发的开源系统，一键将个人电脑、Mac 或 Linux 设备转变为私有 AI 服务器。项目自动组装 Ollama、Open WebUI、n8n、ComfyUI 等工具，无需手动配置即可获得完整 AI 技术栈：本地大模型推理、网页对话界面、语音交互、AI Agent 工作流、RAG 文档检索、图像生成。GitHub 4900+ 星标，741 Fork，Apache-2.0 许可证。

核心功能

本地大模型推理：基于 Ollama 和 llama.cpp，数据完全保留在本地 ChatGPT 风格网页界面：通过 Open WebUI 提供浏览器内对话体验 统一控制面板：一个仪表盘管理所有模型、服务、GPU 状态和扩展 语音、Agent 与工作流：构建可听、可说、可调用工具的自动化流程 RAG 本地搜索：连接本地文档库，实现私有数据的检索增强生成 本地图像生成：无需外部 API，直接运行图像生成工具 隐私优先：无需云端、无需订阅，数据完全保留在本地

特色优势

相比租用云端 AI API，ODS 的核心优势在于完全隐私保护——用户数据、文档、对话记录均存储在本地，不经过任何第三方服务器。对于医疗、法律、金融等隐私敏感行业，可满足合规要求。自动组装原本需要数小时配置的多个工具，一键完成部署。稳定版 v2.6.0 经过发布验证流程测试，确保全新安装和完整功能正常运行。

应用场景

个人 AI 工作站：本地运行大模型，降低 AI 使用成本 隐私敏感场景：医疗、法律、金融等领域处理机密数据 离线 AI 环境：无外网条件下的 AI 应用部署 团队知识库：基于 RAG 的私有文档问答系统 AI 实验环境：快速切换模型和工具，搭建可重复的 AI 实验环境

适用人群

开发者与研究人员：需要本地运行大模型、构建 AI 原型 隐私敏感行业从业者：律师、医生、金融分析师 AI 爱好者：学习大模型部署和 Agent 工作流搭建的个人用户 企业 IT 团队：为团队提供私有 AI 能力同时满足合规要求

出品方

Osmantic（Light-Heart-Labs），Apache-2.0 开源许可 最新稳定版：v2.6.0（2026年7月），近四周 642 个 commit，64 位贡献者

官网链接

GitHub：https://github.com/Osmantic/ODS Discord 社区：https://discord.gg/qGVygYada3