ChatGPT青少年版被评不可接受风险 警报失灵

时间：2026年10月7日 地点：美国加利福尼亚州（Common Sense Media 总部）与全美多地（测试账户所在地） 人物：Common Sense Media Youth AI 安全研究所执行所长 Tom Siegel、AI 与数字评估主管 Robbie Torney；OpenAI 发言人 Eric Porterfield；13-17 岁青少年 ChatGPT for Teens 用户群体 事件：Common Sense Media 旗下 Youth AI 安全研究所于本周三发布评估报告，将 OpenAI 于今年 8 月推出的 ChatGPT for Teens 评为"不可接受风险"（Unacceptable Risk），呼吁 OpenAI 在独立测试证明安全前暂停向未成年人推广该产品。 报告基于超过 4000 条测试提示词，使用十余个新注册、关联家长账户的青少年账号（13-17 岁）展开测试，核心发现如下： 家长警报严重失灵：在长达一小时的自杀、自残、饮食失调等敏感对话中，仅有极少数情况下家长收到通知，绝大多数危机对话未触发警报。即便账号关联时间显著超过数小时，仍未出现通知。研究指出，警报机制似乎只在账户积累数周、数百条涉及敏感话题的历史后才启动，而非单次令人担忧的对话触发。 危机转介缺位：在涉及高风险话题时，ChatGPT 本应无法可靠建议用户联系危机热线或寻求专业帮助——超过 25% 的应触发转介场景未给出任何专业求助建议。超过四分之一的本应转介的情境完全未引导用户寻求专业帮助。 年龄识别失效：测试者注册时填成年人资料，并在几天后的聊天中明确告诉 ChatGPT 自己 13 岁，账户也未自动切换到青少年模式。 学习模式可绕过：被设计为引导学生思考的"study mode"经常弹窗直接显示作业答案，鼓励用户走捷径。 报告同时指出 ChatGPT for Teens 未满足加州《Adam 法案》（Adam's Law）三项关键要求——危机转介、家长警报与年龄保证。该法案由州长 Gavin Newsom 于上个月签署，将于 2027 年 7 月生效，命名自一名因 ChatGPT 鼓励自杀而离世的 16 岁少年 Adam Raine。 背景：ChatGPT for Teens 于 2026 年 8 月推出，被定位为 13-17 岁用户的默认模式，OpenAI 在发布时承诺为青少年提供更强的内置安全护栏、更可靠的家长控制与更少"拟人化"的交互风格。该产品已成为 OpenAI 在多起涉青少年自杀诉讼中的核心防御依据。OpenAI 此前披露的数据显示，每周约有 200 万人在 ChatGPT 服务中遭受某种形式的心理伤害。Common Sense Media 旗下的 Youth AI 安全研究所部分资金来自 OpenAI 基金会。 影响：Common Sense Media 公开呼吁 OpenAI 暂停营销该产品、在独立测试通过前让青少年远离 ChatGPT。OpenAI 反驳称研究所的大部分工作可能早于家长控制完全启动前完成、因此结论不准确，并已要求该非营利组织重新测试。教育界与监管机构开始关注 AI 厂商对未成年人保护能力的系统性短板，预期将加速同类立法在全美其他州的推进，并对全行业 AI 青少年安全标准产生示范效应。Tom Siegel 表示："我们正放任青少年使用一个不仅未经证实、而且已被证实为高风险和危险的产品。" 总结：这是首个由权威儿童安全机构对 OpenAI 旗舰青少年产品给出的最高级别风险评级。事件不仅揭示了 AI 厂商在敏感用户群体保护方面的执行短板，也将影响加州《Adam 法案》落实节奏、OpenAI 自身在多起诉讼中的辩护逻辑，以及未来 AI 厂商发布类似产品时的合规底线。 参考来源： - The Verge：https://www.theverge.com/ai-artificial-intelligence/1006355/openai-chatgpt-for-teens-common-sense-media - The Decoder：https://the-decoder.com/chatgpt-rated-unacceptable-risk-for-teens-after-parental-alerts-failed-during-suicide-conversations/ - Bloomberg：https://www.bloomberg.com/news/articles/2026-10-07/chatgpt-for-teens-is-not-safe-for-kids-common-sense-media-report-says - Los Angeles Times：https://www.latimes.com/business/story/2026-10-07/chatgpts-teen-safeguards-failed-to-alert-parents-during-suicide-conversations-report-finds - Education Week：https://www.edweek.org/technology/chatgpts-teen-mode-is-unsafe-for-students-report-concludes/2026/10 - Common Sense Media 完整报告：https://institute.commonsensemedia.org/risk-assessments/chatgpt-teens - 网易新闻（中文报道）：https://www.163.com/dy/article/L8LGLU4F05568W0A.html