OpenAPPA

产品简介

OpenAPPA 是一款前沿的确定性 AI Agent 防护框架，以代数方法而非模式匹配来追踪数据流向，实现对提示词注入和模型幻觉导致的数据泄露 100% 抵御能力，且不会破坏 Agent 的正常任务完成效率。在权威基准测试中，OpenAPPA 任务完成率达 89%，而 Claude 自动模式为 90%、微软 FIDES 仅为 41%；攻击成功率方面，OpenAPPA 为 0%，Claude 自动模式为 10%，FIDES 高达 31%。

核心功能

• 代数级数据流追踪：通过声明式配置描述数据源、受众和信任级别，系统为每条轨迹推导出"受众 × 信任"安全标签，注入的恶意提示词无法绕过代数运算
• 零误拦截保障：确定性设计保证每次相同输入产生相同决策，不存在概率性漏放
• 补救方案生成：发现风险时不直接阻断，而是返回机器可读的补救计划，包括数据消毒、临时授权和子 Agent 隔离三种方案
• 全平台即插即用：通过单一配置入口接入现有 Agent 循环，模型无法看到、协商或操控防护层
• CI/CD 配置验证：声明式配置支持在持续集成中验证工具图覆盖完整性
• 多受众多层信任：精细化控制不同数据对不同受众可见性，支持只读、消毒等渐进式降级策略
• 供应商无关：兼容任何支持函数调用或工具执行的 LLM 提供商，MIT 许可证完全开源

特色优势

相比非确定性防护（第二模型判断），OpenAPPA 的优势在于能追踪跨工具调用的数据流，而非仅对单次调用做分类。非确定性方案中，分类器本身可被提示词注入，且工具输出对判断模型隐藏，导致判断依据不完整。相比其他确定性方案（黑名单命令、正则规则集），OpenAPPA 通过代数推导而非规则枚举，覆盖所有数据泄露路径，且不会因规则过紧而阻断正常 Agent 行为。

应用场景

• 企业内部 AI 助手：防止 Agent 将敏感内部文档发送给未经授权的外部服务
• 客服 Agent：确保客户个人信息不被恶意提示词诱导泄露至第三方
• 代码审查 Agent：控制 Agent 对私有代码库的访问权限，防止代码通过工具调用流向外部
• 多 Agent 协作系统：为不同信任级别的 Agent 分配不同数据访问权限，防止横向数据流动

适用人群

需要将 AI Agent 投入生产环境、且对数据安全有严格要求的企业技术团队、安全工程师和 AI 架构师。

出品方

OpenAPPA 团队，MIT 许可证开源。

更新动态

持续更新中，基准测试和完整技术报告公开于官网。

官网链接

https://www.openappa.com/