旧金山命令Meta停播AI儿童色情广告

时间：2026年9月9日，美国加利福尼亚州旧金山市检察官办公室向Meta正式发出停止侵权函（cease-and-desist letter），要求其立即停止"允许"包含AI生成儿童性虐内容（CSAM）的付费广告在Facebook、Instagram、Messenger和Threads等平台投放，并就广告如何反复通过审核系统作出书面解释。 人物：David Chiu，旧金山市检察官；Katie Paul，非营利组织Tech Transparency Project（TTP）负责人；Andy Stone，Meta发言人。 事件详情：旧金山市检察官David Chiu在四页信函中指控Meta明知其平台存在AI生成儿童性虐广告问题却未采取有效措施，并借此牟利。信函要求Meta在10天内作出回应。事件源于WIRED于9月8日披露的Tech Transparency Project（TTP）独立调查报告——Meta在2025年11月至2026年8月的近9个月间，共批准并投放超过350条含AI生成儿童性虐内容的视频广告，覆盖欧盟、美国、英国、印度、澳大利亚等地区共29,000多个账号，其中250条以上广告在WIRED首次报道后仍在运行。 背景：广告中部分图像使用真实儿童照片，包括一名欧洲王室成员的官方肖像被处理为带有性行为画面的视频；多数广告链接指向"AI脱衣"应用MaskAI等工具，部分投放方与一家中国广告代理Meet Social相关联。Meta的广告政策明确禁止儿童剥削内容，公司声称采用自动审核系统，但这些广告却在9个月里持续通过审核。Meta发言人Andy Stone此前对彭博社表示，公司"不容忍任何儿童剥削行为，无论是真实的还是AI生成的"，并称多数广告在被发现前已删除。 影响：参议员Mark Warner等美国立法者已表示计划介入调查；澳大利亚、英国等多个国家正在推进针对16岁以下用户的社交媒体禁令；旧金山的禁令可能成为市级乃至州级AI内容治理的判例；Meta今年早些时候已同意支付最高180亿美元与美国各州和解，解决其平台对青少年造成伤害的指控。 总结：此事件暴露了大型平台在AI生成内容审核上的系统性缺陷——当AI生成儿童性虐广告能在自动审核下长期流通时，平台依赖算法的内容治理路径已显失灵。城市级法律行动表明，针对AI滥用的监管正在从联邦立法向地方政府多层级延伸。 参考来源： 1. https://www.wired.com/story/san-francisco-orders-meta-to-stop-allowing-ai-child-abuse-ads/ 2. https://www.wired.com/story/meta-failed-to-catch-hundreds-of-ai-child-abuse-ads-some-included-images-of-real-kids/ 3. https://www.techtransparencyproject.org/articles/meta-ran-hundreds-of-paid-ads-with-child-sexual-abuse-imagery 4. https://media.api.sf.gov/documents/Meta_AI-Gen_CSAM_Ads_Ltr_from_D_Chiu_2026-09-09_Signed.pdf 5. https://finance.yahoo.com/technology/ai/articles/meta-ran-over-300-ads-023109043.html 6. https://www.engadget.com/2231100/meta-apps-displayed-ads-that-contained-ai-generated-csam 7. https://www.firstpost.com/tech/did-metas-new-ai-safeguards-fail-to-catch-hundreds-of-child-abuse-ads-report-14044210.html 8. https://www.techregard.com/meta-ran-hundreds-of-ads-showing-ai-child-sexual-abuse-imagery-non-profit-warns