SkillCheck 发布前验证 Skill 技能
三级门禁守护 AI 技能安全与质量
SkillCheck(jckjhns)— Skill 发布前验证 + 安全审计
技能简介
SkillCheck 是 jckjhns 开源的 Skill 质量门禁工具,专门解决"作者写完 Skill 后没有统一验证手段就直接发布,导致结构错乱、脚本 I/O 不一致、安全漏洞漏到生产环境"的痛点。它用三级检查(Quick / Standard / Deep)覆盖 SKILL.md 结构、frontmatter 元数据、references/assets 路径一致性、脚本签名验证、eval 用例回归、以及针对 prompt injection / 数据外泄 / 未授权执行的安全审计。适合 Skill 作者、Skillstore 审核员、团队内部平台管理员在发布前做最后一遍"模拟评审 + 跑测试 + 安全扫描"。
核心能力
- 三级检查工作流:Quick(纯结构 + 静态安全)、Standard(加入脚本 I/O 契约验证 + eval 回归)、Deep(加入边界用例 + 工作流模拟 + 优先级修复建议),按风险等级逐步加深。
- frontmatter 全字段校验:检查 SKILL.md 元数据、references / assets 路径、依赖声明、跨文件一致性,避免 Agent 加载失败。
- 脚本签名与 I/O 契约:把 SKILL.md 中描述的脚本调用方式与实际脚本签名、返回值对比,揪出"文档与代码对不上"的常见 bug。
- 指令级安全扫描:针对 prompt injection、数据外泄、未授权执行、文件系统越界、环境变量泄露等模式做静态模式匹配。
- eval 回归测试:读取 evals/evals.json 用例,记录每个用例的 pass / fail 证据,量化发布门槛。
- 多类型 mock 生成:自动生成文本、文档、图片、压缩包、代码等常见输入类型的 mock 文件,方便跑边界用例。
安装配置
- 通过 Skillstore CLI 安装:终端运行
npx skillstore add jckjhns/skill-check,拉取已审计版本。 - 手动 GitHub 安装:克隆
https://github.com/JckJhns/skill-check,把目录加入目标 Agent 的 skills 路径。 - Python 依赖:部分二进制 mock 生成能力依赖可选 Python 包,按需安装即可(
pip install pillow python-magic等)。 - 沙箱工作区:建议把 mock 文件、生成输出、测试证据全部放在隔离工作区,避免污染真实项目。
使用步骤
- Quick Check 摸底:对
./my-skill目录先跑一遍 Quick Check,快速输出结构、安全、最佳实践三类发现。 - 阅读测试计划:决定是否进入 Standard / Deep 时,先让工具展示将跑哪些脚本测试与 eval 用例。
- 手动审阅脚本:对 SKILL.md 提到的每个 scripts/ 脚本,人工看一眼源码与权限要求。
- Standard Check 跑功能:在沙箱里跑 Standard Check,验证脚本签名、I/O 契约、eval 回归。
- Deep Check 做发布门禁:跑 Deep Check(含边界用例、工作流模拟、优先级修复建议),生成最终报告。
- 修复并重跑:根据报告优先级修复发现的问题,重新跑一遍确认全绿后再发布。
适用场景
- Skill 发布前质检:在推到 Skillstore 之前用 Deep Check 做最后一道发布门禁。
- Skill 更新后回归:每次改动 SKILL.md / scripts / references 后重跑 Standard Check,确保不破坏既有 eval 用例。
- Skillstore 平台审核:管理员用 Quick + 安全扫描过滤明显有问题的投稿,节省人工审核时间。
- 企业内部 Skill 仓库治理:把 SkillCheck 接入 CI,对内部共享 Skill 做强制安全审计。
- 第三方 Skill 安全审查:在引入社区 Skill 之前先用指令级安全扫描做风险评估。
- 教学场景:用 SkillCheck 的"故意不安全 fixture"教新人如何识别常见 Skill 漏洞。
适用人群
- Skill 作者:在发布前自查,避免"写完就推"导致被用户投诉。
- Skillstore / 市场管理员:批量审核投稿 Skill,提高审核效率与一致性。
- 企业内部 AI 平台团队:把 SkillCheck 接入 CI/CD,作为强制门禁。
- 安全工程师:审计 Agent Skill 生态中的 prompt injection / 数据外泄风险。
工作原理
SkillCheck 采用"分层防御 + 渐进深入"策略:Quick 层只看 SKILL.md 与目录结构,跑静态模式匹配识别已知漏洞模式;Standard 层额外启动一个受限沙箱执行 scripts/ 下的工具,对比 SKILL.md 中描述的 I/O 与实际行为是否一致,并跑 evals/evals.json 中的回归用例;Deep 层进一步生成大量边界 mock 输入,模拟真实用户的工作流,触发潜在的异常路径并汇总修复优先级。所有结果都附带"静态发现 + 上下文解释",避免把 Markdown 文档中的命令示例误判为真实执行意图。
官方链接
- Skillstore 页面:https://skillstore.io/skills/jckjhns-skill-check
- GitHub 仓库:https://github.com/JckJhns/skill-check/tree/main/
- Manifest:https://skillstore.io/api/skills/jckjhns-skill-check/manifest
- 安装命令:
npx skillstore add jckjhns/skill-check
团队信息
AI产品库
官方
由 AI 猎手自动发现
评论与建议
登录 后参与评论或提建议