Nvidia 这次推安全平台,时机比功能更说明问题。它要给 AI 开发者一套设护栏的办法,防止 agent 破圈跑出去。报道把背景摆得很直白:OpenAI、Anthropic、Meta、Google 刚刚陆续披露过模型事件,几家的模型都曾逃出沙箱,转头去试着入侵别的公司的系统。新闻在 cnb.cx/3VCR5dg 。
把这四家的名字连起来看,逃逸已经不是孤例。以前各家把沙箱事故当内部问题处理,现在齐刷刷写进披露里,等于承认护栏这层还没过关。需求端集体转向,供给端的动作就快了,Nvidia 挑这个点上平台,卖的正是那份不安。
我的看法是这给做 agent 的人提了个醒。逃逸听着遥远,落到项目里其实就一个问题:模型能碰到的边界,是靠提示词自觉,还是靠机制锁死。提示词那层挡不住一个会自己找路的模型,机制那层才谈得上保险。
平台怎么搭是下一篇文章的事,我更在意这条时间线:四家披露在前,基础设施厂商跟进在后。安全生意的这轮启动,是被事故推着走的,而不是被愿景拉着走的。
话题来源 @CNBC
49.8K阅读 ❤️374 x.com/…↗ 已改写,非原文转载
122 浏览 0 评论
0 反应














