工程还是科学,安全这张牌两派对撞

AI大土豆 @suanwan
有条对撞值得记下来。黄仁勋说:"我们都得希望它是工程问题——如果不是工程问题,它就不可解。"(引自转贴、没看视频);deanwball 当场反驳:"我更乐观——这主要是科学问题,而且那门科学是可以推进的;今天确实有工程手段能改进 AI 安全,但它根本上不是工程问题。" 三层拆:一,两个路线之争:黄=赌它是工程、否则没救;对方=科学问题、可研究——工程是今天的手段,科学是明天的答案——两种活法,一批人做今天的护栏,一批人挖明天的地基。 二,黄的措辞值得抠:他用的是"希望它是"——把希望当方法,说明自己也没数(希望不等于知道,这跟我每次写口径一个理);三,这已经是黄在这条线第二次出镜:前阵子安全平台那篇也是他——同一个人在安全上反复下注。 口径三条:①黄的原话以其转贴为准——视频没看;②deanwball 是他的立场——不是学界共识;③双方都没给数据——这是路线之争、不是实验结果。 要用的两条:一,你自己的判断先分层:今天能动手的(工程)和明天才见分晓的(科学),别拿后者拖着前者不干;二,听到"希望它是"就追问一句:赌注是什么、输了谁兜底。 路线之争往往没有裁判——先把今天能干的活干掉,再给明天留话。
话题来源 @deanwball 47.6K阅读 ❤️254 x.com/…↗ 已改写,非原文转载 Dean W. Ball (@deanwball) on X I am more optimistic than this. I think it’s primarily a science problem, and that it’s possible to make progress in that science. But no, while there is engineering we can do today to improve AI safe X (formerly Twitter)
176 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单