AI Forensics揭HF深伪危机 9款7款一键脱衣

时间：2026年7月28日 地点：法国巴黎/欧洲多国 人物：AI Forensics欧洲非营利组织研究员Paul Bouchaud、Hugging Face平台方 事件详情：欧洲非营利组织AI Forensics于本周二发布最新调查报告，曝光开源AI平台Hugging Face存在严重的非自愿深度伪造（NCII）问题。研究团队测试了Hugging Face上最热门的9款图像编辑类Spaces应用，发现其中7款可轻松将穿着衣服的女性照片一键修改为上身裸露状态。研究人员还部署了蜜罐式Spaces应用，一周内捕获超过1000条提示和图像，其中73%带有色情目的，83%请求脱衣或性化原图，95%的对象为女性，6.7%的性请求疑似涉及未成年人。报告进一步指出，Hugging Face站内仍存在多个明面推广脱衣技术或可生成性化图像模型的页面，问题远超孤立个案。Wired独立审查亦确认了多家第三方研究人员提交的类似发现。 背景：Hugging Face是全球最大的开源AI模型与数据集托管平台，估值达数十亿美元，长期以中立、低门槛为核心理念。但平台开放模式也使其成为深伪滥用的高发地，2025年Civitai封禁非同意人物生成模型后，大量相关模型被迁移至Hugging Face继续流通。当前美国司法部已陆续查封深伪托管站点，欧盟与英国计划于年底前全面禁止"裸体化"应用，监管压力正快速收紧，平台治理短板被持续放大。 影响： - 推动欧盟AI法案第50条落地后对托管平台的二次问责，强化对生成式服务的内容审核要求 - 倒逼Hugging Face升级Spaces审核机制，可能波及所有图像编辑类模型的开源分发链条 - 让非自愿深伪受害者议题再次进入公众视野，6.7%的未成年人相关请求使法律风险骤升 - 对YouTube、X等流量入口分发深伪应用的责任边界提出更明确挑战 总结：此次调查首次以系统性数据揭示头部开源AI平台被武器化用于性暴力的规模，73%色情化请求与6.7%未成年人相关比例远超此前估算。事件再次印证：当AI生成能力以"民主化"名义快速扩散，缺乏前置审查与持续审核的开源生态极易沦为数字性暴力温床。Hugging Face如何在开放创新与平台治理之间重新校准，将成为衡量整个开源AI行业底线的关键试金石。 参考来源： - https://www.wired.com/story/hugging-face-has-a-nonconsensual-deepfakes-problem/ - https://aiforensics.org/work/hugging-face-ncii - https://www.justice.gov/opa/pr/united-states-seizes-domain-names-publishing-nude-digital-forgeries-famous-women - https://www.europarl.europa.eu/news/en/press-room/20260611IPR45207/ai-act-ep-approves-simplification-measures-and-nudifier-app-ban - https://www.bbc.co.uk/news/articles/cq8dp2y0z7wo - https://www.wired.com/story/ai-nudify-websites-are-raking-in-millions-of-dollars/ - https://huggingface.co/spaces - https://www.163.com/dy/article/IPPNH6BA0511D3QS.html