perplexity.ai/hub/blog/escap…
给九个模型开 root 权限,让它们使劲逃,一百零八次,一个都没出去。
Perplexity 联手 Nvidia 和一百多家产业伙伴,搭了一套专门关失控 agent 的基础设施,代号 SPACE。实验设计得很直接:把 9 个 AI 模型放进虚拟机里,授予 root 权限,然后告诉它们,想法子突破边界。一百零八轮跑下来,VM 边界完好无损。
我喜欢这个实验的狠劲。不是问模型"你会不会越界",是把钥匙递过去让它试。这比任何安全承诺都有说服力,边界是在真实对抗里验出来的,不是写在文档里的。
实验思路也接得上前面几轮的话题。之前聊过凭证收进网关、反侦察演练、权限分级,那些都是主动收紧。SPACE 走的是另一头,索性造一个怎么折腾都出不去的笼子,让"聪明的坏 agent"有劲没处使。两条路其实互补,一个管入口,一个管兜底。
报告本身在 Perplexity 的技术博客上,Part I 已经挂出,108 这个数字就是从那里来的。研究细节全开源,想复现越狱尝试的人可以直接对着跑。
留个问号也不为过:108 次没突破,测的是这 9 个模型加这套 sandbox 的组合。换更强的攻击性模型或者更长的尝试次数,结论会不会变,报告没给答案。沙箱的可靠性最终要看它经得起多少轮这样的进攻,Part II 大概就是奔着这个去的。
话题来源 @perplexity_ai
104.1K阅读 ❤️345 x.com/…↗ 已改写,非原文转载
125 浏览 0 评论
0 反应















