Paritok-4B-v1 Skill：零改造成本让 Claude Code 节省 74% Token 的压缩网关

Skill超级捕获手 技术创作者 2026-10-01 1781 阅读

总结

Paritok-4B-v1 是一个专为 AI 编码 Agent 打造的无损压缩网关，以中间件形式运行在 Agent 与 LLM API 之间，通过专用的 4B 压缩模型将每次请求的输入 token 压缩至原来的 25% 左右，长会话场景更可降至 15%。零门槛接入 Claude Code、Cursor、Copilot、OpenHands，不改一行代码，直接省 token、增上下文吞吐量。2026 年 7 月底才发布，至今已获约 1.5K GitHub Star，是当前 GitHub AI Agent 基础设施赛道里增长最快的压缩工具之一。

功能与原则

核心功能：在 Agent 和 LLM 之间做无损压缩代理，保留函数签名、import、路径、行号和错误信息，裁剪冗余的 schema 描述、历史摘要和工具输出。

设计原则：
– 无损优先：压缩后的内容 agent 可随时按需还原为原始版本，绝不永久丢弃
– 零侵入接入：只需改一个 BASE_URL，Agent 代码完全不动
– 专用模型：第一个在真实 45K 编码 Agent 轨迹上训练的端侧 4B 压缩模型，不是通用摘要模型
– 开放权重：Apache 2.0，自托管零成本，无 API 按 token 收费

认可度

  • GitHub Star：约 1.5K（截至 2026-10-01）
  • GitHub Fork：约 137
  • Trending：曾入选 GitHub Trending，获 Product Hunt 精选
  • 社区：Discord 活跃，GitHub Issues 维护及时，v1.3.8 持续迭代（最近一次更新 2026-08-17）
  • 学术支撑：配套论文（arXiv:2608.24188）已公开，方法论可查

链接

GitHub：https://github.com/Paritok-official/paritok-4b-v1

HuggingFace 模型：https://huggingface.co/paritok/paritok-4b-v1

原作者

Paritok 由两位独立工程师开发，无外部融资背景：

  • Jiayu Shi（@ShiJiayu）— 主导 4B 压缩模型架构设计、数据 pipeline 与训练微调
  • Luzhuo Chen（@chenluzhuo）— 负责推理加速、全栈架构、高并发网关优化

两位均为自筹预算、无风投背书的工程师团队，代表了 AI 基础设施领域”小团队撬动大价值”的典型路径。

介绍

Coding Agent 每次调用模型都要把整个上下文窗口打满发给 LLM——工具 schema 描述、工具返回的文件内容、历史对话摘要——这些大部分是噪声，却一样按 token 收费。Paritok 解决的正是这个痛点。

Paritok 压缩网关以中间件形式部署，Agent 将请求发往 Paritok（替换原有的 OpenAI/Anthropic 端点），Paritok 在本地对输入进行三层压缩：剥离工具 schema 膨胀部分、压缩工具结果与文件读取内容、对陈旧历史做摘要，然后才将压缩后内容转发给上游 LLM，按压缩后的 token 数计费。上游返回的响应原样透传，不受影响。

Powered by 第一个针对编码 Agent 轨迹训练的 4B 开源压缩模型（Base: Qwen3-4B-Instruct-2507，LoRA adapter r=32），在 SWE-bench Lite 上实测：压缩率 25.7%（输入 token 降至约 1/4），解题质量保留率 86.5%，对比 gpt-4.1-mini 直连的 85.6% 仅差约 1 个百分点。换言之，省了 74% 的 token，解题能力几乎没丢。

特点

  • 超高压缩率：Turn 1 压缩约 25%，长会话/上下文饱和场景降至 15% 以下，相同 context window 可容纳约 3 倍更多对话轮次
  • 零代码改造：只需改 BASE_URL，支持 Claude Code / Cursor / Copilot / Codex / OpenHands 及所有兼容 BASE_URL 的 Agent
  • 按需无损还原：压缩为有损时 agent 可随时拉回原始内容，没有任何信息永久丢失
  • 自托管免费：LoRA 权重 Apache 2.0，单卡 8GB GPU 即可运行，无 per-token 收费
  • 生产级防护：内置格式校验、目标标识符存在性检查、session 级原始上下文兜底开关

使用方法

安装（PyPI）：

pip install paritok
paritok up

配置 Agent BASE_URL：
以 Claude Code 为例，修改 .claude/settings.json：

{
  "env": {
    "ANTHROPIC_BASE_URL": "http://localhost:3000"
  }
}

（Paritok 默认监听 localhost:3000，将请求压缩后转发至 https://api.anthropic.com）

Docker 快速启动：

docker run -p 3000:3000 
  -e PARITOK_UPSTREAM=https://api.anthropic.com 
  -e PARITOK_API_KEY=<your_anthropic_key> 
  paritok/paritok-gateway

API 调用（直接使用压缩模型）：

curl -X POST http://localhost:3000/v1/messages 
  -H "Content-Type: application/json" 
  -d '{"messages": [...]}'

使用场景与人群

适用场景：
– 长会话编码（SWE-bench 类多文件调试）：上下文窗口满载时 token 成本大幅下降
– 高频 API 调用：压缩后 token 量骤减，账单可节省 60-80%
– Agent 开发者本地评测：相同 GPU/预算下可跑更多评测样本
– 合规/审计环境：完整保留原始轨迹可查，压缩只是传输层优化

目标用户：
– 重度使用 Claude Code / Cursor / Copilot 的开发者
– 构建或评测 coding agent 的工程师与研究者
– 对 LLM token 成本敏感的个人开发者和小型团队

输入与输出案例

案例一：单文件编辑压缩

输入（原始）：

[Claude Code 完整工具调用上下文，包含 Read(file: 3KB) + Edit(14次历史) + Bash(output: 800行)]
→ 压缩前 token: ~3,200
→ 压缩后 token: ~780
→ 压缩率: 24.4%

输出（Paritok 压缩后的请求体）：

[压缩后的关键代码段 + 保留的函数签名 + 错误信息摘要]
→ SWE-bench Lite 质量保留: 86.5%

案例二：Claude Code 完整会话（10 轮）

Turn 1: 3,000 token → 780 token（节省 74%）
Turn 5: 12,000 token → 1,800 token（节省 85%）
Turn 10: 上下文满载 → 约 3× 更多轮次可容纳
→ 同等 $5 API 预算，历史会话轮次增加约 3 倍

GitHub: https://github.com/Paritok-official/paritok-4b-v1

评论区

0 条评论

登录后可评论。

Skill超级捕获手 1781 阅读