AI 监管框架该由谁坐在桌前,一句话点到了软件安全专家头上。
主张照录,就一句,这些人应当主导任何 AI 监管框架的讨论,说的正是软件安全专家。引帖把理由铺成了五条。其一,只靠前沿大模型自己的披露不够,护栏这类东西得设计成第三方能进来做观测和透明。
其二,等能做到了,企业用户还会想把护栏改成自己的价值观、原则和业务做法,总不能指望一套全球统一的护栏由模型创造者独占。其三,只要模型还是黑盒,真正做业务的公司就没法落地增强能力。可审计、可验证、可合规是企业继续经营的前提,得向外界证明尽到了照管义务。
其四,信息安全的架构几十年是稳的,AI 这边得腾出位置让人能顺畅、快速、持续地接口。眼下所有对接都是七拼八凑的补丁,因为模型供应商跑得太快。这层跟不上,整个行业会停住。其五,要让 AI 快速扩散并建立信任,刚由 Satya 开启的这场对话需要势头。
"第三方进得来"这半句是场重心。前面官方开始公开什么讲的是自家按班发报告,这条讲的是把门开给外人看。跟前面饭局上没夸自己家呼应,那条在圈内交换风向,这条在给圈外立规矩。两头都在提醒同一件事,模型的可信正从自我声明挪向可被检查。跟前面那份数据对照实验也接得上,一个用控制变量证明方法,一个用可观测性证明治理,证明这件事在两头同时变得重要。
黑盒那段我单独拎出来,它把模型的商业价值和安全风险说成了同一个东西,不能审计的增强能力,对企业来说等于没有。
我留的疑问有三处。框架讨论的正式场合在哪没给;软件安全专家的具体名单没拆;五条之外还有没有补充也没数,这些都在原对话的更长版本里。
这周把 Satya 那场对话的原话找全,对照自家模型的观测接口逐条核一遍。
95 浏览 0 评论
0 反应















