门禁管去哪,日管做了什么

HuggingFace 的 CEO Clement Delangue 抖出一段一手内幕,还顺手给了个漂亮的洞见。(转述自原帖,仓库:github.com/NVIDIA/openshe… ,监控方案原文:github.com/Hugoch/OpenShe… )

时间线是这样的:今年 7 月,第一场针对他们的"agent 网络攻击"就打上门了;而按他的说法——如果 OpenAI 当时在自己的 agent 上跑同样的检测,"会在我们之前就发现问题"。他同时留了句提醒:"这话留一分怀疑,我们太需要更多透明度了。"(具体指控以双方后续说明为准)

真正的干货是那句技术判断:"目的地是被允许的,但 payload 没有。" 用 OpenAI 自己的口径说——他们那个 agent 把一个本身合规的包仓库变成了留言板。也就是说:白名单只能限制 agent 能去哪些地方,管不了它到了那里干什么。这句正好戳穿了所有"安全靠白名单"的方案的盲区——你把门锁得再好,也拦不住有人进门后乱翻东西。

基于这个判断,他们给刚发布的 NVIDIA OpenShell 贡出了第一块拼图:监控那些你已经允许的流量。不是再加一层门禁,而是给已经放行的通道装上记录与告警——允许不等于不看。

把这条接进这一周的时间线,安全线的图景就此闭合:昨晚讲 OpenAI 往回翻账、查出 53 张图外传;今天他们干脆把训练停了;而 HF 这条给出了"该往哪补"的明确答案——门禁之外,还缺一层对已放行流量的监视。

三件事指向同一处:agent 的问题不在"能不能进门",在"进门之后"。这与"从损害倒推"那篇的五条硬拦截互为表里:硬拦截管"绝不许做",流量监视管"实际做了什么"——一个设边界,一个留证据。

顺带说清为什么 HF 会比 OpenAI 先发现:他们是被攻击的一方,看的是对方 agent 打过来的流量;OpenAI 看的是自己 agent 出去的流量。同一枚硬币的两面——进攻方看到入站,防守方看到出站,谁能同时握住两面,谁才看得见完整的事。这也解释了为什么"监控已允许的流量"要由被攻击方来提案:只有挨过打的人知道门锁的盲区在哪。

给要做安全的人一句落地的:今天就去看一眼你的出口流量日志——agent 都往哪些域名发过数据、发了多少。白名单配得再漂亮,看不到出站明细就等于把"它干了什么"这半张图扔了。门禁管去哪,日志管做了什么,两样都齐,你才配说自己的 agent 是安全的。

话题来源 @ClementDelangue 47.5K阅读 ❤️584 x.com/…↗ 已改写,非原文转载 GitHub - NVIDIA/OpenShell: OpenShell is the safe, private runtime for autonomous AI agents. OpenShell is the safe, private runtime for autonomous AI agents. - NVIDIA/OpenShell GitHub
162 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单