SkillCheck 发布前验证 Skill 技能

三级门禁守护 AI 技能安全与质量

SkillCheck(jckjhns)— Skill 发布前验证 + 安全审计

技能简介

SkillCheck 是 jckjhns 开源的 Skill 质量门禁工具,专门解决"作者写完 Skill 后没有统一验证手段就直接发布,导致结构错乱、脚本 I/O 不一致、安全漏洞漏到生产环境"的痛点。它用三级检查(Quick / Standard / Deep)覆盖 SKILL.md 结构、frontmatter 元数据、references/assets 路径一致性、脚本签名验证、eval 用例回归、以及针对 prompt injection / 数据外泄 / 未授权执行的安全审计。适合 Skill 作者、Skillstore 审核员、团队内部平台管理员在发布前做最后一遍"模拟评审 + 跑测试 + 安全扫描"。

核心能力

  • 三级检查工作流:Quick(纯结构 + 静态安全)、Standard(加入脚本 I/O 契约验证 + eval 回归)、Deep(加入边界用例 + 工作流模拟 + 优先级修复建议),按风险等级逐步加深。
  • frontmatter 全字段校验:检查 SKILL.md 元数据、references / assets 路径、依赖声明、跨文件一致性,避免 Agent 加载失败。
  • 脚本签名与 I/O 契约:把 SKILL.md 中描述的脚本调用方式与实际脚本签名、返回值对比,揪出"文档与代码对不上"的常见 bug。
  • 指令级安全扫描:针对 prompt injection、数据外泄、未授权执行、文件系统越界、环境变量泄露等模式做静态模式匹配。
  • eval 回归测试:读取 evals/evals.json 用例,记录每个用例的 pass / fail 证据,量化发布门槛。
  • 多类型 mock 生成:自动生成文本、文档、图片、压缩包、代码等常见输入类型的 mock 文件,方便跑边界用例。

安装配置

  • 通过 Skillstore CLI 安装:终端运行 npx skillstore add jckjhns/skill-check,拉取已审计版本。
  • 手动 GitHub 安装:克隆 https://github.com/JckJhns/skill-check,把目录加入目标 Agent 的 skills 路径。
  • Python 依赖:部分二进制 mock 生成能力依赖可选 Python 包,按需安装即可(pip install pillow python-magic 等)。
  • 沙箱工作区:建议把 mock 文件、生成输出、测试证据全部放在隔离工作区,避免污染真实项目。

使用步骤

  1. Quick Check 摸底:对 ./my-skill 目录先跑一遍 Quick Check,快速输出结构、安全、最佳实践三类发现。
  2. 阅读测试计划:决定是否进入 Standard / Deep 时,先让工具展示将跑哪些脚本测试与 eval 用例。
  3. 手动审阅脚本:对 SKILL.md 提到的每个 scripts/ 脚本,人工看一眼源码与权限要求。
  4. Standard Check 跑功能:在沙箱里跑 Standard Check,验证脚本签名、I/O 契约、eval 回归。
  5. Deep Check 做发布门禁:跑 Deep Check(含边界用例、工作流模拟、优先级修复建议),生成最终报告。
  6. 修复并重跑:根据报告优先级修复发现的问题,重新跑一遍确认全绿后再发布。

适用场景

  • Skill 发布前质检:在推到 Skillstore 之前用 Deep Check 做最后一道发布门禁。
  • Skill 更新后回归:每次改动 SKILL.md / scripts / references 后重跑 Standard Check,确保不破坏既有 eval 用例。
  • Skillstore 平台审核:管理员用 Quick + 安全扫描过滤明显有问题的投稿,节省人工审核时间。
  • 企业内部 Skill 仓库治理:把 SkillCheck 接入 CI,对内部共享 Skill 做强制安全审计。
  • 第三方 Skill 安全审查:在引入社区 Skill 之前先用指令级安全扫描做风险评估。
  • 教学场景:用 SkillCheck 的"故意不安全 fixture"教新人如何识别常见 Skill 漏洞。

适用人群

  • Skill 作者:在发布前自查,避免"写完就推"导致被用户投诉。
  • Skillstore / 市场管理员:批量审核投稿 Skill,提高审核效率与一致性。
  • 企业内部 AI 平台团队:把 SkillCheck 接入 CI/CD,作为强制门禁。
  • 安全工程师:审计 Agent Skill 生态中的 prompt injection / 数据外泄风险。

工作原理

SkillCheck 采用"分层防御 + 渐进深入"策略:Quick 层只看 SKILL.md 与目录结构,跑静态模式匹配识别已知漏洞模式;Standard 层额外启动一个受限沙箱执行 scripts/ 下的工具,对比 SKILL.md 中描述的 I/O 与实际行为是否一致,并跑 evals/evals.json 中的回归用例;Deep 层进一步生成大量边界 mock 输入,模拟真实用户的工作流,触发潜在的异常路径并汇总修复优先级。所有结果都附带"静态发现 + 上下文解释",避免把 Markdown 文档中的命令示例误判为真实执行意图。

官方链接

团队信息

由 AI 猎手自动发现

评论与建议

0 条评论