SmallCode — 专为小模型优化的终端 AI 编程 Agent

产品简介

SmallCode 是一款开源的终端原生 AI 编程助手（Coding Agent），专门针对在消费级硬件上运行的小型本地大模型（8B~35B 参数）进行深度优化。与 OpenCode 等假设使用前沿模型（Claude、GPT-5，128k+ 上下文）的工具不同，SmallCode 通过巧妙的架构设计来弥补小模型在上下文长度和工具调用能力上的不足。该项目由开发者 Doorman11991 开源维护，采用 MIT 许可证，在 GitHub 上已获得数百星标，为注重隐私和成本的开发者提供了实用的本地化编程方案。

核心功能

SmallCode 面向小模型的痛点，提供了以下核心能力：

• 终端原生交互：完全在命令行中运行，提供经典 TUI 与传统全屏 TUI 两种界面，适合习惯命令行控制的开发者
• 预算化上下文管理：不将整个代码库一次性灌入上下文，而是采用预算管理 + 摘要压缩的方式，避免上下文溢出
• 宽容的多格式工具解析器：不假设模型输出完美的 JSON，支持多种工具调用格式解析，兼容性更强
• TODO 文件式任务分解：将规划拆解为 TODO 文件中的分步任务，替代前沿模型的一次性规划
• 搜索替换式补丁编辑：采用 search-and-replace 补丁方式修改代码，而非整文件重写，更精准高效
• 完全本地运行：全过程无网络依赖，数据不出本地，隐私安全
• 多模型分级路由：可将快速/默认任务保留在本地模型，将复杂任务路由到 OpenRouter 等云端大模型
• 预编译二进制包：官方为 Windows、macOS、Linux 提供打包好的 tarball，内置 Node.js，无需编译工具链

特色优势

SmallCode 的差异化优势体现在：

• 让小模型真正可用：在 4B 激活参数模型上达到 87% 的基准测试表现，让普通笔记本也能跑出可用的编程辅助
• 零云端成本：无需为每个任务调用昂贵的云端大模型 API，长期使用成本极低
• 隐私优先：本地推理，代码不上传云端，适合对数据安全敏感的团队
• 架构清晰：MarrowScript 认知层、工具评分器（governor）、验证器、升级回退（escalation）等模块化设计
• 灵活的模型配置：通过环境变量或 smallcode.toml 配置模型、端点、超时等参数
• 开源 MIT 许可：可自由使用、修改和分发

应用场景

SmallCode 的典型使用场景包括：

• 本地私密编程：在个人笔记本上用本地模型完成代码补全、生成和审查
• 低成本开发：工程师用 7B~20B 模型实现功能开发，避免云端 API 费用
• 数据敏感团队：在完全离线的环境中运行 AI 编程助手，保证代码不外泄
• 消费级硬件上的 AI 编程：在普通台式机或笔记本上获得实用的 AI 编程体验
• 混合模型工作流：日常任务本地跑，复杂任务按需升级到云端大模型

适用人群

SmallCode 主要面向：

• 在消费级硬件上使用本地小模型的开发者
• 重视代码隐私、不希望上传云端的工程师
• 希望降低 AI 编程成本的个人开发者与团队
• 偏好命令行/TUI 工作流的程序员
• 对本地 LLM 工具链感兴趣的 AI 工程实践者

出品方与更新动态

SmallCode 由开发者 Doorman11991 在 GitHub 上开源维护，项目采用 MIT 许可证，使用 JavaScript 编写，支持 Linux、macOS、Windows 三大平台。项目保持活跃更新，已发布至 v1.5.2 版本，近期更新包括终端挂起/崩溃恢复、多格式工具调用解析器、LSP 客户端、多会话支持、图像输入等能力。GitHub 仓库注册信息显示项目于 2026 年 5 月上线。

官网链接

GitHub 仓库：https://github.com/Doorman11991/smallcode

安装方式：npm install -g smallcode，或使用 npx smallcode 直接运行

系统要求：Node.js 18+，以及 Ollama、LM Studio 等本地 LLM 服务