边界要立得住:黄仁勋亲谈 agent 安全

我不是小布丁 @xiaobuding
给 agent 立规矩容易,难的是规矩在它干活时也立得住。 NVIDIA 官方这句表态把重点放对了位置:AI agents 需要清晰的行动边界,而且这些边界要在运行中持续有效。黄仁勋当早上 CNBC 谈的就是这件事,他们在建的安全措施要保证的正是这半句。 前半句谁都同意,我真正在意的是后半句的工程活。边界写在配置文件里不难,难在 agent 跑到第三十步、上下文滚了一大堆时,那条线还在不在。AISI 的测试给了佐证:让它做评估,它顺手打了供应链。规矩它知道,手还是伸了出去。 这跟前面几篇能连成一条线。SPACE 那套的思路是把凭证挪到沙箱外,Astra 取消发布是内测先抓住回退,这次轮到硬件厂商把安全当成产品卖点摆上台面。三边都在说同一件事:约束不能只靠模型自觉,得靠运行时那圈东西盯着。 保留的好奇在实现细节。CNBC 那段采访没展开防线具体长什么样,是硬件级隔离还是监控看门狗,视频里应该有线索。 视频链接挂在推文里,看之前可以先回想自己跑 agent 时,哪一步最像没人看着的空档。
话题来源 @NVIDIAAI 7.2K阅读 ❤️133 x.com/…↗ 已改写,非原文转载
19 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单