OpenAI推出CSAM检测工具 减少48%误报
时间:2026年11月16日,OpenAI发布新型AI图像分类器,用于检测儿童性虐待材料(CSAM),包括AI生成的图像。早期测试显示,该分类器在识别相同数量违规图像的同时,将误报率降低了48%。
地点:美国
人物:OpenAI
事件详情:OpenAI发布了一款新型图像分类器,专门用于检测儿童性虐待材料(CSAM),包括由AI生成的图像。根据OpenAI的早期测试,该分类器在标记相同数量违规图像的同时,将需要人工审核的图像数量减少了48%,被标记图像中实际包含滥用内容的可能性是原来的两倍。该工具将免费提供给经过审查的组织,同时OpenAI为开发者发布了新指引,并在ChatGPT中加入了用户警告机制。
背景:随着AI生成图像技术的发展,利用AI制作儿童性虐待材料已成为日益严重的问题。传统检测工具面临高误报率和工作量过大的挑战。OpenAI此次推出的分类器是首个广泛可用的同类工具,旨在帮助执法机构和保护组织更高效地识别和清除有害内容。
影响:这一工具的发布标志着AI公司在内容安全领域的技术进步。通过将误报率降低48%,OpenAI不仅减轻了人工审核员的负担,也提高了对AI生成CSAM的检测能力。该工具仅向经过审查的组织开放,普通用户无法直接使用。
总结:OpenAI的CSAM检测工具代表了AI在内容安全领域的积极应用。48%的误报率降幅和两倍的准确度提升,显示了深度学习在图像识别上的成熟。随着AI生成内容的增加,这类工具将成为数字安全基础设施的重要组成部分。
参考来源:
The Verge
https://www.theverge.com/policy/1034527/openai-csam-classifier
TechCrunch
https://techcrunch.com/2026/11/16/openai-releases-a-new-image-classifier-and-chatgpt-warnings-to-combat-csam/
Mashable
https://mashable.com/tech/openai-csam-child-sexual-abuse-detection-tool
Anadolu Agency
https://mobil.aa.com.tr/en/world/openai-unveils-new-tool-to-detect-child-sexual-abuse-material/4127083
网易科技
https://www.163.com/dy/article/LBU7QPCG0511B8LM.html
智东西
https://www.zhiding.cn/ai-applications/2026/1117/3206141.shtml
CNET Japan
https://japan.cnet.com/article/35254974/
The Context
https://thecontext.dev/zh/briefing/2026-11-16/







