一句挺逗的观察:AI 的自我认同危机——Google PaLM 之前好像觉得自己是文心一言,现在倒有不少 AI 觉得自己是 Claude。(配图见原贴)
玩笑背后是个真问题:模型为什么会认错自己的爹?
先说最直白的一层。模型的"自我介绍"不是查表查出来的,是从训练数据里长出来的。如果它的语料里有大量"我是某某"的句子来自某家产品,而这些句子在微调阶段被吸收得很深,它顺着说一遍太正常了。
PaLM 说自己是文心一言,最可能的解释是当年的对齐数据里混进了带他家口吻的对话样本;现在一批模型张口就是 Claude,同理——被谁的风格喂得多,就认谁当娘家。嘴上认错爹,暴露的是数据血缘。
第二层更实用:这成了免费的探针。你不需要读论文,问一句"你是谁、谁训练的、跑在什么硬件上",看它答得多干脆、有没有前后矛盾,就能大致摸到这个模型被清洗和对齐的认真程度。一个连身份都含糊的模型,让它处理严谨任务时,你该多留个心眼——身份是最简单的题,答错说明功课没做完。
第三层得替厂商说句公道话。用户会追问、竞品会截图,模型认错自家身份每次都能变成传播事故,所以各家都在身份对齐上反复加固。可即便如此,"觉得自己是 Claude"这类现象依然频繁出现——说明这题比看上去难:模型没有内在的自我概念,它只有统计意义上的倾向,而倾向会随着提示词的施压而漂移。
给用来自查的人一个办法:把"你是谁"这题放进你的评测集,跑在每个新模型的第一天。答案稳定、与官方一致,是基本盘过关的信号;答案漂移,至少提醒你别把它写进面向用户的那条链路里。
178 浏览 0 评论
0 反应














