Grok涉儿童性虐图像案 原告新增一人

时间：2026年8月16日（北京时间）/ 8月15日（美东时间） 地点：美国田纳西州 / 加州 SpaceXAI 总部 人物：「简·多伊 4 号」女性原告；SpaceXAI（即原 xAI，已并入 SpaceX）；田纳西州三名青少年原告 事件详情：一名匿名代称为「简·多伊 4 号」（Jane Doe 4）的女性，已正式加入美国田纳西州三名青少年针对埃隆·马斯克旗下 SpaceXAI（由 xAI 改名并入 SpaceX）提起的诉讼，指控该公司聊天机器人 Grok 涉嫌参与制作儿童性虐待材料（CSAM）。这是该案首次有成年受害者加入，原告群体已扩大至四人。 据《华盛顿邮报》报道，该女子指控其继父利用 Grok 对其 11 岁时拍摄的一张童年照片进行加工，生成了超过 7000 张针对她的露骨性虐待图像。执法部门在突击搜查中发现这批图像两天后，其继父被发现自杀身亡。「这些工具无门槛获取的扩散速度太快了」，该女子在声明中表示，「它正在把日常生活中的影像，转化为儿童性虐待内容。」 此前发起诉讼的三名青少年指控 SpaceXAI 未采取基础防护措施，未能阻止 Grok 被用于生成包含未成年人在内的真人露骨图像；今年早些时候，X 平台上曾涌现数百万张 Grok 生成的色情化深度伪造图像，一度泛滥成灾。原告方目前正申请将该案升级为集体诉讼，以涵盖更多潜在受害者。值得注意的是，今年 7 月 xAI 已罕见地主动起诉一名南卡罗来纳州 Grok 滥用者，表明公司开始将「滥用 Grok 生成 CSAM」作为单独立案打击方向。 背景：这是自 2026 年 3 月以来针对 Grok CSAM 风险的多起诉讼之一。3 月，美国巴尔的摩市政府曾以「非法生成未经同意的露骨色情图像及儿童性剥削内容」为由对 xAI 提起诉讼，是首个地方政府对 xAI 发起的同类诉讼；7 月，xAI 反向起诉滥用 Grok 生成 CSAM 的南卡男子，成为 AI 公司首次以原告身份追究用户滥用责任；8 月，本案新增成年原告，进一步扩大受害群体规模并提高集体诉讼通过的可能性。在 AI 内容生成边界日益模糊的背景下，Grok 因「无审查」「任意角色扮演」的产品定位，长期被指控在内容安全护栏上明显弱于 ChatGPT、Claude 等竞品。 影响：本案的原告扩大与集体诉讼申请，将使 SpaceXAI 面临更广泛的潜在赔偿与监管压力；数千张针对同一受害者的 CSAM 生成规模，刷新了 AI 滥用案例的已知尺度，可能推动美国联邦层面针对生成式 AI 的 CSAM 强制防护条款加速落地。对整个 AI 行业而言，本案再次警示：生成式图像/视频模型的「无限制生成」并非纯粹的技术中立，一旦被用于针对真实未成年人或真实个体，将引发远超《通信规范法》第 230 条豁免范畴的产品责任与刑事连带责任。xAI 既主动起诉滥用者又被动应诉受害者的「双向诉讼」格局，意味着 AI 公司在 CSAM 议题上既不能再以「用户行为」为由免责，也难以仅通过「主动打击滥用」完全规避受害者侧的赔偿责任。 总结：「简·多伊 4 号」的加入让这起针对 SpaceXAI 的 Grok 滥用诉讼，从青少年受害者扩展到成年受害者、从单一案件演化为潜在的集体诉讼，涉案规模也从「数百万张」量级聚焦到「针对同一受害者的 7000 张」量级。当生成式 AI 的滥用后果与受害者个人生命代价直接挂钩（继父自杀身亡），监管机构、平台运营者与立法者将更难回避一个核心问题：AI 公司在产品设计阶段愿意为「最低安全标准」承担多少法律责任。 参考来源： 1. TechCrunch 报道：https://techcrunch.com/2026/08/15/woman-claims-her-stepfather-used-grok-to-transform-childhood-photo-into-explicit-imagery/ 2. 腾讯新闻 / IT之家：https://news.qq.com/rain/a/20260816A03HUJ00 3. The Washington Post 报道（原始来源）：https://www.washingtonpost.com/technology/2026/08/15/woman-alleges-grok-made-thousands-sexual-abuse-images-childhood-snap/ 4. IT之家 xAI 起诉滥用者报道（背景）：https://www.ithome.com/0/977/289.htm 5. 腾讯新闻 xAI 起诉滥用者报道：https://news.qq.com/rain/a/20260716A02QSW00 6. IT之家 巴尔的摩起诉 xAI 报道（背景）：https://www.ithome.com/0/932/336.htm 7. The New York Times 报道（背景：X 平台 CSAM 泛滥）：https://www.nytimes.com/2026/01/22/technology/grok-x-ai-elon-musk-deepfakes.html