Redis作者开源ds4 Mac本地跑V4

时间：2026-10-02 地点：意大利罗马 / GitHub 人物：Salvatore Sanfilippo（网名 antirez，Redis 数据库创始人）、DeepSeek 团队 事件详情：Redis 之父 antirez 推出 DwarfStar 4（简称 ds4）本地推理引擎，并在 Hacker News 上以 Show HN 形式发布。ds4 是一个用纯 C 编写的自包含推理引擎，专门为 DeepSeek V4 Flash、DeepSeek V4.1 Flash、GLM 5.x、Qwen3.8 Flash Next 等模型在 Apple Silicon（Metal）、NVIDIA CUDA 和 AMD ROCm 平台上本地运行而设计。GitHub 仓库在项目曝光后两周内收获约 2.3 万 Star。ds4 的核心创新包括：仅压缩路由 MoE 专家的非对称 2-bit 量化（将 284B 参数的 DeepSeek V4 Flash 模型压至约 81GB，可在 96GB 以上内存的 MacBook 上运行），将 KV 缓存落盘作为磁盘一等公民的持久化设计（重启后可通过 SHA-1 哈希恢复长前缀），以及同时兼容 OpenAI 和 Anthropic API 风格的 HTTP 服务器（支持 /v1/chat/completions 与 /v1/messages）。 背景：antirez 在 2009 年创造了 Redis 数据库，2019 年退出 Redis 核心开发，曾在 llama.cpp 出现前开发过类似的本地推理实验项目。ds4 的开发由 GPT-5.5 深度辅助，但方向、测试和调试由 antirez 本人主导，公开承认 AI 编程占比。ds4 明确不是 llama.cpp 的分支，也不是通用 GGUF 运行器，仅支持项目自带的特定 GGUF 文件，体现 antirez 一贯的"窄而深"工程哲学。 影响：ds4 让 96GB 以上统一内存的 Mac 和 128GB 显存的 NVIDIA DGX Spark 工作站能本地跑准前沿模型（DeepSeek V4 Flash、GLM 5.x、Qwen3.8 Flash Next），为本地 AI Agent 工作流提供低延迟、隐私友好、无需云端的替代方案。Claude Code、Codex CLI、OpenCode、Pi 等编程代理通过设置 ANTHROPIC_BASE_URL 或 OPENAI_BASE_URL 即可接入 ds4-server。官方跑分显示：M5 Max 128GB 在 2K 上下文下 V4 Flash Q2 预填充 790.2 t/s、生成 39.4 t/s；65K 上下文下预填充 398.5 t/s、生成 27.6 t/s。DGX Spark 128GB 在 2K 上下文下预填充 825.8 t/s、生成 18.1 t/s。 总结：ds4 通过放弃"通用 GGUF 运行器"路线，针对少数几个准前沿模型做极致的端到端优化，让 96GB MacBook 第一次能在不联网的情况下稳定运行可与 Claude、GPT-4 同台竞技的开源大模型，为本地 Agent 和隐私敏感场景打开新的工程选项。 参考来源： - https://dwarfstar.sh/ - https://github.com/antirez/ds4 - https://hn.today/s/from-the-creator-of-redis-run-llm-locally-with-ds4 - https://news.lavx.hu/article/redis-creator-s-ds4-project-brings-frontier-ai-to-local-hardware - https://dev.to/ashraf_chowdury09/the-redis-guy-wrote-a-local-llm-engine-that-refuses-to-be-general-thats-why-it-works-1hmo - https://segmentfault.com/a/1190000047761879 - https://www.besthub.dev/articles/redis-founder-crafts-deepseek-v4-ai-inference-engine-node-js-star-applauds-a6f3c3f856c4 - https://modb.pro/db/2055101839192973312