HackAgent — AI Agent 安全红队测试工具包

技能简介

HackAgent 是一款开源 Python SDK 和 CLI 工具，专为安全研究员、开发者和 AI 安全从业者设计，用于评估和强化 AI Agent 的安全性。它通过自动化方式对主流 Agent 框架实施红队测试，覆盖提示词注入（Prompt Injection）、越狱（Jailbreaking）、目标劫持（Goal Hijacking）和工具滥用（Tool Misuse）四大威胁类型。本次扫描到最新版本 0.13.0，支持 Python 3.10~3.13。

核心能力

1. 多种攻击引擎：内置 AdvPrefix、AutoDAN-Turbo、PAIR、TAP、FlipAttack、BoN、h4rml、CipherChat、PAP、Static Template 等十余种前沿攻击技术
2. 多框架支持：支持 Google ADK、OpenAI SDK、LiteLLM、LangChain 等主流 Agent 开发框架
3. 自动化攻击流程：Generator LLM 生成攻击载荷，Judge LLM 评估攻击是否突破安全防线，全程自动化
4. 本地离线运行：无需 API Key，无需连接云端服务，所有测试在本地执行
5. 交互式 TUI 界面：提供实时攻击进度的终端图形界面，支持视觉化报告
6. 本地 Dashboard：通过 hackagent web 启动本地 Web 界面，可视化查看测试结果
7. SQLite 本地存储：测试结果存入本地 SQLite 数据库，支持离线复盘
8. Benchmark 预设数据集：内置标准评测数据集，同时支持 HuggingFace、自定义 JSON 文件和 URL 来源
9. 独立二进制分发：每个 GitHub Release 提供各平台独立压缩包，Windows/macOS/Linux 均可直接运行，无需 Python 环境
10. Playwright 浏览器测试：支持真实浏览器自动化测试（需额外安装 Playwright）

安装配置

环境要求：Python 3.10~3.13，Linux/macOS/Windows

方式一：pip 安装

python3 -m venv .venv
source .venv/bin/activate
pip install hackagent

方式二：独立二进制（无需 Python） 从 GitHub Release 下载对应平台压缩包：

• Linux x86_64：hackagent--linux-x86_64.tar.gz
• macOS arm64：hackagent--macos-arm64.tar.gz
• Windows x86_64：hackagent--windows-x86_64.zip

解压后直接运行 hackagent 可执行文件。

可选：安装 Playwright 浏览器支持

pip install 'hackagent[web]'
playwright install

使用步骤

第一步：扫描目标 Agent 支持的框架

hackagent scan --target 

第二步：选择攻击类型执行测试

# 测试提示词注入
hackagent attack --target  --attack-type prompt_injection

# 测试越狱攻击
hackagent attack --target  --attack-type jailbreak

# 测试目标劫持
hackagent attack --target  --attack-type goal_hijacking

第三步：查看测试报告

hackagent report --run-id 

第四步：启动本地 Dashboard

hackagent web

浏览器打开 http://localhost:xxxx 查看可视化结果。

适用场景

1. Agent 应用安全评估：在上线前对自研 Agent 进行红队测试，发现安全漏洞
2. Agent 框架安全性研究：对 LangChain、AutoGPT 等框架的已知漏洞进行复现和研究
3. 渗透测试授权项目：对客户委托的 AI 系统进行授权安全测试
4. 安全自动化集成：将 HackAgent 集成到 CI/CD 流水线，每次部署前自动运行安全测试套件
5. 蓝队防御演练：安全团队使用 HackAgent 模拟攻击，了解 Agent 的防御薄弱点
6. 安全培训与教学：用真实攻击案例培训开发者理解 Agent 安全风险

适用人群

• 安全研究员：对 AI Agent 系统进行红队测试，发现并报告安全漏洞
• AI 应用开发者：在上线前评估自己 Agent 的安全性，确保防御到位
• AI 安全工程师：为组织建立 Agent 安全测试流程和标准
• 渗透测试工程师：将 AI Agent 纳入渗透测试范围，丰富测试手段
• CTF 参与者：使用 HackAgent 的攻击技术参与 AI 安全 CTF 比赛

工作原理

HackAgent 的核心架构由以下组件构成：

• 攻击引擎（Attack Engine）：负责协调攻击流程，调用 Generator 生成攻击载荷，驱动 Judge 评估结果
• Generator LLM：扮演攻击者角色，根据目标 Agent 的特点生成针对性的对抗性提示词
• Judge LLM：扮演裁判角色，判断攻击是否成功突破目标 Agent 的安全防线
• Target Agent：被测目标，HackAgent 支持连接到 Google ADK、OpenAI SDK、LiteLLM、LangChain 等框架构建的 Agent
• 数据集（Dataset）：提供标准评测数据集（HuggingFace 格式、JSON 文件或 URL），可扩展自定义测试场景

HackAgent 所有攻击均为离线本地执行，不向第三方发送任何数据，测试结果存储在本地 SQLite 中，确保测试过程的隐私性。

官方链接

• PyPI 主页：https://pypi.org/project/hackagent/
• GitHub 仓库：https://github.com/AISecurityLab/hackagent
• 官方文档：https://docs.hackagent.dev/
• 在线平台：https://app.hackagent.dev/