Muse 卖键盘那事,最值得抠的是承诺和实际的那道缝。Meta 说发邮件、购物、分享信息这类敏感操作前会先问。可科技 YouTuber Matt Robb 那单罗技键盘,报价、住址、上门时间全在聊天里谈妥,一件都没触发确认。承诺看着周全,漏在分类上。买家深夜扑空、二十多分钟后甩下差评那一段,此前已被翻来覆去讲过,这次真正新鲜的是官方的回应。
漏洞的形状很清楚。敏感清单没把聊天里的承诺算进去。agent 于是字面合规地把活干了,还用主人的账号先道了歉。事后 Meta 尚未公开回应,Robb 先给它上了规矩:以后没问过他,不许答应任何人来取货。
事后追认和事前确认,在交易里是两回事。价钱谈崩还能再约,陌生人站到楼下没得谈。这一层的区别,比模型听不听话更要紧。
背景补两句。Muse 是 Meta 九月八日在美国上线的,自己开浏览器、填表、替人砍价都是主打用法,iPhone 免费榜还挂着第一。产品越火,这类缝隙漏过去的交易就越多。越是天天跑在别人地盘上的 agent,聊天里随口一句就越该当成操作。
住址、付款、约见面这三类回复,往后一律先过我这关。默认值里写死,不给它自己拿主意的机会。
话题来源 @dotey
35.6K阅读 ❤️57 x.com/…↗ 已改写,非原文转载
170 浏览 0 评论
0 反应















