零件买得到,三问写自己纸上

黄仁勋的官方号发了 NVIDIA Open Agent Safety Platform 的参考设计。(转述自原帖,细节以 NVIDIA 官方文档为准)

前两天社区转述版刚出现时,重点是两个组件:OpenShell 实时执行策略、Sentry 能在毫秒级把可疑 agent "隔离"起来;这次的参考设计把它们安进了一套完整方案里。放在今晚的坐标系里看,这一步的意义很清楚——当 agent 开始常驻(关窗继续干)与成队(多人协作)同时成立,安全就从"提示词技巧"变成了"基础设施采购":策略要实时执行、异常要秒级隔离、每个动作要可回放,这些都不是模型聪明就能自带的,是必须有人卖的零件。

这与 Palantir 六层那篇是同一件事的两端。Palantir 展示的是自持结构——六层加三重权限,全部自己搭;NVIDIA 今天卖的是成品零件——把"实时策略"与"隔离舱"做成参考设计,照着装即可。

两条路正好对上今晚那句"能力可以外采、结构必须自持":能力层的零件可以外采(模型、安全件都能买),但"谁批准、谁隔离、谁担责"的结构必须留在自己手里——否则买回来的隔离舱,连该隔离谁都要听别人定义。

"毫秒级隔离"这个指标也值得多看一眼。它衡量的不是模型犯错的速度,是系统收敛的速度:一个失控或被注入的 agent,伤害与时长成正比;把发现到关禁闭的间隔从分钟压到毫秒,等于把事故的爆炸半径先一步砍掉。这与"能随时撤,就不必随时憋着"是同一个思想在安全域的投影——可撤回性才是敢放手的前提,无论撤的是一次发布,还是一个正在乱跑的 agent。

给要落地的人一句排序建议:先照参考设计回答三问——你的 agent 能碰哪些资源(策略清单)、出问题谁来按隔离键(角色与触发)、事后能不能还原全过程(日志与追踪);三问答得上来,再谈给 agent 更大的自由度。零件随时买得到,但这三问的答案必须写在你自己的纸上——那是常驻时代唯一带不走的资产。

话题来源 @JensenHuang 45.8K阅读 ❤️473 x.com/…↗ 已改写,非原文转载
212 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单