Osmantic ODS

Osmantic Deployment System（简称 ODS）是一套开源的本地 AI 部署系统，能够将普通的 PC、Mac 或 Linux 电脑快速转变为一台功能完整的私有 AI 服务器。该项目整合了 Ollama、Open WebUI、n8n、ComfyUI 等主流开源组件，用户只需执行一条安装命令，即可自动完成所有组件的部署与配置，无需手动组装。

核心功能包括：本地模型推理，支持在本地 GPU 或 CPU 上运行开源 LLM，免除云端 API 费用；类 ChatGPT 的网页对话界面，支持多模型切换和对话历史管理；控制仪表盘，提供模型管理、服务状态、GPU 监控和扩展插件的统一管理视图；语音与智能体，支持语音输入输出，可构建能够调用工具的自动化工作流；RAG 与本地搜索，将本地文档向量化后接入检索增强生成，实现私有知识库问答；本地图像生成，整合 ComfyUI 管道，在本地运行 Diffusion 模型生成图像。所有认证信息、密钥和诊断数据均保留在本机，支持完全离线使用。

Osmantic ODS 采用 Apache 2.0 开源许可，完全免费使用，适合开发者、机器学习工程师、数据科学家以及希望自建 AI 基础设施的创业团队。安装方式极为简单，只需在终端执行安装脚本即可一键部署，项目官网提供详细的文档与社区支持。