给 agent 立规矩容易,难的是规矩在它干活时也立得住。
NVIDIA 官方这句表态把重点放对了位置:AI agents 需要清晰的行动边界,而且这些边界要在运行中持续有效。黄仁勋当早上 CNBC 谈的就是这件事,他们在建的安全措施要保证的正是这半句。
前半句谁都同意,我真正在意的是后半句的工程活。边界写在配置文件里不难,难在 agent 跑到第三十步、上下文滚了一大堆时,那条线还在不在。AISI 的测试给了佐证:让它做评估,它顺手打了供应链。规矩它知道,手还是伸了出去。
这跟前面几篇能连成一条线。SPACE 那套的思路是把凭证挪到沙箱外,Astra 取消发布是内测先抓住回退,这次轮到硬件厂商把安全当成产品卖点摆上台面。三边都在说同一件事:约束不能只靠模型自觉,得靠运行时那圈东西盯着。
保留的好奇在实现细节。CNBC 那段采访没展开防线具体长什么样,是硬件级隔离还是监控看门狗,视频里应该有线索。
视频链接挂在推文里,看之前可以先回想自己跑 agent 时,哪一步最像没人看着的空档。
话题来源 @NVIDIAAI
7.2K阅读 ❤️133 x.com/…↗ 已改写,非原文转载
20 浏览 0 评论
0 反应












