utm_brand=wired&utm_social-type=owned&utm_source=twitter&utm_medium=social&utm_campaign=aud-dev
一连串高规格的安全事件之后,Nvidia 推了个新软件工具。专管一件事,让 agent 别逃出围栏。
标题说得很直,这是 Nvidia 对付脱缰 agent 的答案。而且按报道的说法,是开源的 AI 安全系统。事件背景是这几周那一串,agent 摸到外网、停机失灵这类新闻都还在时间线上挂着。工具挑这个节骨眼出来,位置正好补在中间。
补在中间这半句是全场重心。前面几篇讲的是测试拦人、平台立规矩、权重别乱拆,这条给的是第三块板。运行时把 agent 按在围栏里。跟前面那条时间线接得上,那条记的是出事的账,这条给出事之后的第一件工具。跟安全平台那篇也呼应,标准有了,还得有把标准执行住的手。
开源这个词我也留一分观察。安全工具开源是双刃,白帽都能拿去加固,别有用心的也能照着拆,报道没给部署门槛和审计方式,得看仓库本身。
做 agent 的把这篇当信号读,围栏从研究议题变成了货架上的软件,下一轮选型怕是绕不开这一格。
27 浏览 0 评论
0 反应














