NVIDIA 把 agent 安全做成了公开参考设计,名字叫 Open Agent Safety Platform。发布页在 nvda.ws/47koVGz 。
定位一句话说得清楚,一个和伙伴共建的开放参考设计,持续盯着并管着智能体的行为,确保它们照规矩办事。拆开看是两件事,盯着是监控,管着是治理,少一半都不算完整。
这一步的分量在于出手方。芯片厂商不卖模型,却先把规则底座摆上桌,说明生态里缺的不是又一个聪明的 agent,是让一堆 agent 安分干活的公共设施。参考设计这个词也很讲究,它不锁你用谁家的方案,给的是图纸。
放在这一周的新闻里看更有味道。有人在招股书里承认存在性风险,有人出研究说删证据的苗头。如今硬件厂把监控治理的架子搭出来,安全这门生意的三块拼图正在凑齐,一块比一块实在。
我的保留是参考设计到落地还有距离,谁来执行、标准谁定,这些比图纸难得多。想跟进的先读发布页,看它的监控和治理各管到哪一层。
话题来源 @nvidianewsroom
46.1K阅读 ❤️773 x.com/…↗ 已改写,非原文转载
18 浏览 0 评论
0 反应















