Janus开源 单Go二进制跑GGUF跨Vulkan

时间：2026年10月1日 20:36（北京时间 10月2日 11:36），Show HN 投稿冲上 Hacker News 首页 地点：全球开源社区，Hacker News 首页 / GitHub 人物：开发者 Maverick6172（GitHub: Vibra-Ingenn） 事件：开发者 Maverick6172 在 Hacker News 发布 Show HN 项目 Janus——一个**单 Go 二进制** 即可在 AMD、Intel、NVIDIA GPU 上跑 GGUF 大模型的本地推理服务器 背景：当前主流本地大模型推理（如 Ollama、LM Studio、llama.cpp 自带 server）均需 Python 环境、Docker 容器或专用 runtime 部署，本地推理门槛较高 操作： - Janus 用 Go 1.22+ 编写，把 llama.cpp Vulkan 后端封装为 OpenAI 兼容 API（/v1/chat/completions、/v1/models） - 支持 Vulkan 计算着色器，AMD、Intel、NVIDIA GPU 都能用，CPU fallback - 内置 Web UI（Assistant、Chat、Kernel、Config、Memory、Skills 标签页），自带文件操作、Shell、Math、Word/PDF、OCR（Tesseract）工具 - 热切换模型不重启；Ollama 也可作为后端代理 - Windows / Linux / macOS 全平台，Windows 10/11 为主战场；M 系列 Mac 走 CPU 后端 - 端口 8990；模型首次加载到 VRAM 需 10–60 秒 影响： - 进一步降低本地大模型部署门槛，单 .exe 即可上手 - 挑战 Ollama / LM Studio / llama.cpp server 在本地推理市场的地位 - 验证 Vulkan 作为 CUDA 替代方案的可行性，对 AMD/Intel 用户更友好 - GitHub Show HN 上线即吸引 12 颗星热度 总结：Janus 主打 "**零依赖**" 理念——一个 Go 二进制 + 一个 GGUF 模型文件，就能跑起一个 OpenAI 兼容的本地大模型推理节点，对本地 AI Agent、私有部署、离线场景都极具吸引力 参考来源： - https://github.com/Vibra-Ingenn/Janus - https://news.ycombinator.com/item?id=49926773 - https://urgent.news/2026/10/01/show-hn-janus-go-binary-that-runs-gguf-models-via-vulkan-on-amd-intel - https://deniz.in/janus-runs-local-gguf-models-from-a-single-go-binary-with-an-openai-compatible-a - https://zeli.app/story/49926773 - https://ainews.bunrin.work/en/news/show-hn-janus-go-binary-that-runs-gguf-models-via--454699 - https://www.worldprogramming.org/posts/show-hn-janus-go-binary-that-runs-gguf-models-via-vulkan-on-amdintelnvidia-1yw7ww