Meta拒删AI生成教练不当触碰运动员视频

时间：2026年11月2日 地点：美国加州门洛帕克（Meta 总部）与 Facebook 平台 人物：Maggie Harrison Dupré（Futurism 高级撰稿人）、Kim Shore（体操运动员出身的安全体育倡导者，为 Gymnasts for Change International 提供咨询）、Meta 平台内容审核团队 事件详情：Futurism 于 11 月 2 日报道，Facebook 上存在大量专门发布 AI 生成视频的账号，画面是年长男教练在健身房、舞蹈室里对正在练体操、芭蕾和瑜伽的年轻女运动员做出不当触碰，部分视频接近照片级真实。报道者用普通账号以成人内容和性剥削为由举报了 10 个相关账号，整整一周后收到 8 份内容相同的通知，称经查这些页面不违反社区标准、不予下架，另有 2 个账号自行消失，报道者无法确定是否与举报有关。这些账号常把内容包装成教学或纠正动作，单条视频播放量可超过 10 万次；有一个账号累计发布近 20 条几乎相同的同一视频版本，并在评论区导流到一个只限会员的 WhatsApp 频道。当 Futurism 向 Meta 媒体关系团队发函问询后，被举报页面随即全部下架，先前的通知也被改写为经复核页面违反社区标准。Meta 对 Futurism 表示，无论内容是真实拍摄还是 AI 生成，描绘虐待或剥削的内容都不应出现在其平台上，这些账号因违反政策已被移除；并称虽然有漏网的时候，但一直在努力执行规则，上个季度在被举报之前就主动发现并移除了 98% 的危害儿童内容。Meta 还提到，在账号举报之后，Facebook 的推荐算法反而开始向举报账号的信息流推送更多同类 AI 视频；拿到 Meta 声明后推荐的一条视频，发布两天内播放量已超过 17.6 万次。 背景：Meta 自身的社区准则对成人裸露与性行为、成人性剥削、儿童性剥削虐待与裸露三类均设有禁止条款，后两类明确覆盖数字生成的或 AI 生成的图像，以及性化真实或非真实儿童的内容。Futurism 此前已报道，Meta 拒绝下架描绘极端身体虐待儿童的 AI 生成内容；WIRED 的调查显示，Meta 的 Facebook 与 Instagram 上曾出现数百条含真实儿童影像与 AI 生成儿童性虐待素材的付费广告。外部监督机构此前也评价 Meta 针对 AI 深度伪造的规则持续且根本性地不足。 影响：安全体育倡导者 Kim Shore 认为，这类内容把权力高度不对等的场景中的侵害行为正常化，甚至可能被现实中的施暴者当作模仿范本；她还指出，运动员从小被训练要信任教练、接受训练中的身体接触，这类画面会强化不正常接触只是训练一部分的观念。对平台而言，事件暴露的是审核流程的一致性缺口：普通用户举报被判定合规，直到媒体问询才改判下架。对 AI 行业而言，生成式内容的产能已经远超审核系统的识别与处置速度，Meta 对深度伪造内容转向以标注代替直接删除，也在客观上放大了这类内容在推荐流中的分发。 总结：Futurism 的调查把 AI 生成内容的审核缺口从付费广告延伸到自然流量视频，并暴露出用户举报与媒体问询在 Meta 那里得到两套不同处置结果这一事实。Meta 在被媒体问询后删除了相关账号，也重申了 AI 生成虐待内容不应出现在平台上的立场，但推荐算法随后加量推送同类视频，说明识别与处置能力仍是短板。对普通用户和开发者来说，这提醒的是同一件事：AI 让这类内容的生成几乎不花成本，审核却仍依赖逐条举报加人工复核，只要生成端与分发端的速度差还在，治理就只能靠媒体曝光而不是机制修复。 参考来源： Futurism 原始调查报道 https://futurism.com/artificial-intelligence/meta-facebook-ai-coaches-inappropriately-touching-young-athletes AI 安全中文站译介报道 https://aisafetyhot.com/zh/story/801fdb6a-8eeb-4648-8a2c-81f49d2e1086 土耳其媒体 Kantan News 报道 https://kantan.news/haber/meta-genc-sporculari-hedef-alan-yapay-zeka-videolarini-sikayetlere-ragmen-kaldirmadi WIRED 关于 Meta 平台 AI 虐待广告的调查 https://www.wired.com/story/hundreds-of-mundane-ai-apps-are-hiding-abusive-deepfake-features/ Engadget 报道监督委员会批评 Meta 的深度伪造规则 https://www.engadget.com/2260894/oversight-board-says-metas-rules-ai-deepfakes-fundamentally-inadequate/ 法国 Science et Vie 报道 Meta 平台 AI 儿童虐待内容处置不力 https://www.science-et-vie.com/technos-et-futur/comment-meta-a-valide-des-publicites-pedocriminelles-generees-par-ia-sur-facebook-et-instagram-253826.html 西语媒体 NeoTeo 汇总 Meta 涉 AI 儿童虐待视频账号处置情况 https://www.neoteo.com/en/a-report-says-19-facebook-accounts-with-ai-child-abuse-videos-stayed-live-for-more-than-24-hours