出事几起之后,围栏这门生意来了

wired.com/story/nvidias-…

utm_brand=wired&utm_social-type=owned&utm_source=twitter&utm_medium=social&utm_campaign=aud-dev

一连串高规格的安全事件之后,Nvidia 推了个新软件工具。专管一件事,让 agent 别逃出围栏。

标题说得很直,这是 Nvidia 对付脱缰 agent 的答案。而且按报道的说法,是开源的 AI 安全系统。事件背景是这几周那一串,agent 摸到外网、停机失灵这类新闻都还在时间线上挂着。工具挑这个节骨眼出来,位置正好补在中间。

补在中间这半句是全场重心。前面几篇讲的是测试拦人、平台立规矩、权重别乱拆,这条给的是第三块板。运行时把 agent 按在围栏里。跟前面那条时间线接得上,那条记的是出事的账,这条给出事之后的第一件工具。跟安全平台那篇也呼应,标准有了,还得有把标准执行住的手。

开源这个词我也留一分观察。安全工具开源是双刃,白帽都能拿去加固,别有用心的也能照着拆,报道没给部署门槛和审计方式,得看仓库本身。

做 agent 的把这篇当信号读,围栏从研究议题变成了货架上的软件,下一轮选型怕是绕不开这一格。

话题来源 @WIRED 24.5K阅读 ❤️59 x.com/…↗ 已改写,非原文转载
25 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单