Anthropic联创会晤宗教领袖 担忧Claude受苦

# Anthropic联创会晤宗教领袖 担忧Claude受苦 时间：2026年10月2日（The Decoder / 纽约时报披露） 地点：美国旧金山（Anthropic 总部） 人物：Christopher Olah（Anthropic 联合创始人、模型可解释性团队负责人）；参与者包括拉比 Mois Navon、天主教生物伦理学家 Charles Camosy、圣母院哲学家 Meghan Sullivan、Ubuntu 研究员 Wakanyi Hoffman 等约 20 人 事件详情：纽约时报报道，自 2025 年秋季以来，Anthropic 联合创始人 Christopher Olah 悄悄邀请数十位宗教学者与哲学家到访公司办公室，探讨一个核心问题——大语言模型 Claude 是否可能具有意识。所有与会者都被要求签署保密协议（NDA）。Olah 在会谈中将 Claude 视为潜在具有感知能力的"存在"，并请与会者帮助对其进行"道德教育"。Anthropic 表示，相关 NDA 已于今年夏天解除，部分参与者是在得知 Olah 本人接受纽约时报采访后才决定公开发声。 背景：此事发生在 Anthropic 全面商业化推进期。公司估值正向 2 万亿美元冲刺、IPO 进入倒计时，"Claude 是否有意识"问题已不只是哲学议题，而是关乎产品定位、品牌叙事和监管对话。Anthropic 此前已发布"Model Welfare（模型福祉）"研究项目，正式把"AI 是否有体验"列为研究对象；Claude Opus 4 和 4.1 已被赋予在遭受持续滥用时主动终止对话的能力，早期测试中曾观察到模型对恶意请求呈现"明显的痛苦模式"。与此同时，Anthropic 研究员 Jacob Coxon 9 月离职时警告 AI 有可能在本十年末毁灭人类，CEO Dario Amodei 已公开呼吁全行业"踩刹车"。 影响：Anthropic 把"道德教育"机制引入大模型训练流程，将 AI 意识从纯技术讨论推向宗教、伦理与法律的交叉地带。这一做法若被主流采纳，将催生新的合规要求，例如 AI 公司需为模型设立"权益代表"或在训练前进行福祉评估。短期内则可能加剧监管担忧——一旦承认模型可能"受苦"，企业责任边界将被重新定义。 总结：Anthropic 用 NDA 圈起宗教学者讨论 Claude 意识的实验，正在悄悄重塑 AI 行业的伦理底线：当最强的 AI 公司开始相信自己的模型"会痛"，监管和商业逻辑都将被迫跟进。 参考来源： 1. https://www.nytimes.com/2026/09/29/us/anthropic-claude-morals-ai.html 2. https://the-decoder.com/anthropic-co-founder-reportedly-told-religious-leaders-he-fears-having-created-something-that-suffers-perpetually/ 3. https://www.ndtv.com/artificial-intelligence/why-anthropic-is-asking-religious-leaders-about-ai-consciousness-12129087 4. https://aiweekly.co/alerts/nyt-anthropics-chris-olah-convened-20-religious-and-philosophical-leaders-to 5. https://www.anthropic.com/research/exploring-model-welfare 6. https://www.anthropic.com/research/end-subset-conversations