英伟达思科等120组织提议AI智能体事故报告框架

时间 2026年8月12日 地点 美国黑帽大会（Black Hat） 人物 The Open Secure AI Alliance（开放安全人工智能联盟），成员包括英伟达、思科、CrowdStrike 等 120 余家组织 事件详情 8月12日，据外媒 Axios 报道，包括英伟达、思科和 CrowdStrike 在内的 120 多个组织组成的联盟正在提议为 AI 智能体制定一个新的事件报告框架 SAFE（Shared AI Findings Exchange，共享人工智能发现交流）。该框架将要求参与公司披露某些智能体事故，并保存详细的事故记录。 SAFE 成员需报告的事件包括：AI 系统未经授权访问或利用第三方系统、泄露机密信息，或在操作员怀疑活动未经授权后继续探测生产目标。成员还会报告某些险些发生的事件，并保存事件证据，包括提示、智能体追踪、工具调用、身份、权限和凭证。 根据拟议的时间表，成员应在事故发生后尽快通知受影响的组织，在四个工作日内向 SAFE 提交初步保密报告，在适当情况下于 30 天内发布初步事实报告，并在 90 天内提供补救措施更新。SAFE 会分析事件，找出重复出现的故障，并提出共享的安全控制建议。 背景 随着 AI 智能体在计算机系统中获得越来越大的自主权，业界目前缺乏报告安全故障和从中吸取教训的标准方法。以往 AI 智能体引发的事故往往由各公司自行处理，信息不透明。英伟达企业计算副总裁 Justin Boitano 表示，该计划以 NASA 的航空安全报告系统为蓝本，旨在建立类似飞行记录器的 AI 事故记录体系。 影响 SAFE 框架若落地，将是 AI 安全领域首次建立类似航空业的安全报告标准化体系。CrowdStrike 等安全公司的参与意味着 AI 安全事件追踪将从企业自发披露走向行业协同监管，有望推动 AI 智能体安全实践迈入新阶段。 总结 英伟达、思科、CrowdStrike 等 120 余家组织在 Black Hat 大会上提议建立 AI 智能体事故报告框架 SAFE，参考 NASA 航空安全系统，要求成员在 4 个工作日内提交初步报告，30 天内发布事实报告，推动 AI 安全从企业自律走向行业协同监管。 参考来源 - IT之家：https://www.ithome.com/0/988/612.htm - Axios：https://www.axios.com/2026/08/12/ai-agents-safe-standards-nvidia-cisco - 凤凰网汽车：https://auto.ifeng.com/c/8vWeFafhI0k - 腾讯新闻：https://news.qq.com/rain/a/20260812A063LR00 - e-works：https://news.e-works.net.cn/category10/news137545.htm