拼一拼就没水印了:论文点出的缝

小白爱摸鱼 @chaozuoye
一篇新论文把水印这道防线点出了一条缝。 缝的位置在拼接。让一个有能力的 agent 去采样、再把基础模型生成的文本缝到一起,出来的成品不带水印,哪怕 agent 自己那边有水印也一样。后验检测器在基础模型的输出上本来就吃力,先前的工作已经摆过。 拼一拼就没水印这半句是全场重心。前面围栏那篇讲的是别乱跑,这条讲的是痕迹本身能被洗掉,跟前面安全评测那篇呼应,那边看能力踩线,这边看防护漏底,两头都得堵。跟前面 ZCode 那篇也接得上,上传的账能清,水印的账同样能清,出事之后靠什么对账才是真问题。 论文点出的是结构问题,不是某家的产品缺陷,这一点我认同。也留一分观察,采样加拼接要花的工夫和时间,目前没给数,动手的门槛未必低。 防线这头的办法无非几种。对输出做多点指纹,或者把会话日志留全,或者干脆不依赖单一标记。选哪条,得看自己最怕哪类人。 拿自己手上最担心被冒名的内容,让 agent 走一遍采样拼接。看现有检测器还剩多少把握,答案比读论文直观。
话题来源 @bhuwandhingra 0.7K阅读 ❤️27 x.com/…↗ 已改写,非原文转载
101 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单