NVIDIA 发布 Open Agent Safety Platform,把一件事摆上台面:靠提示词与软件沙箱管住自主 agent,可能从根上就不成立。它的前提是所有部署过 agent 的人都见过的两个漏洞——只要给的上下文与工具足够多,应用层护栏常被绕开;软件沙箱漏掉一条系统调用,服务器权限就直接交出去了。解法因此下沉到硬件。
平台分两层。第一层 OpenShell 是开源的 CPU 级安全运行时,提供全链路动作追踪与不可越权的边界约束,Vera、Intel、Arm 架构都能跑——这一层解决"看得见":agent 的每一步动作被记录,越权在到达之前就被边界拦住。
第二层 Sentry 跑在专用 DPU 上,做带外独立监控:与主计算环境物理隔离,agent 自身感知不到它的存在,一旦试图突破边界,芯片级在毫秒内强行隔离。软件层负责日常约束,硬件层负责最后那道谁也绕不过的墙。
生态阵容说明了行业的共识点:模型厂商、编程工具、数据与安全公司、机器人公司第一时间接入,连协作软件也提供一键审批越权申请的入口——把"人类确认"这个环节放回了高危动作的必经之路上。安全从各家的私有护栏变成公共设施,这一步由卖芯片的公司来推动并不意外:它卖的正是所有人都跑不掉的那层。
自主化的方向不会因此停下,但兜底的位置被重画了:过去出事兜底靠审计,现在兜底靠物理隔离。对跑长链路 agent 的团队,可以把失控场景先分级——删库、乱发邮件、越权调用外部接口,各自的代价与概率不同,对应的防线也不同。多数团队眼下最缺的其实是第一层的可见性:先把动作追踪接上,越界才有据可查,物理隔离那道墙留给真正的高危动作。
84 浏览 0 评论
0 反应














