佛州女子用Claude写威胁 AI识别后主动报警

时间：2026年10月5日 地点：美国佛罗里达州李县（Lee County） 人物：30岁邦尼塔斯普林斯女子卡莉·米歇尔·赫勒（Carli Michelle Heller） 事件详情：美国佛罗里达州李县30岁女子卡莉·米歇尔·赫勒在与Anthropic旗下聊天机器人Claude的对话中写下针对当地警长办公室的暴力威胁，声称要"shoot up"警长办公室。Anthropic的安全风控机制自动识别到关键词与潜在暴力威胁，将信息上报给公司人工审核团队，审核人员确认威胁属实后，依据紧急披露例外条款联系当地执法部门。9月26日触发警报后，警方前往其住所将赫勒"无冲突拘留"，案件由李县警长办公室情报警探接手。赫勒向调查人员表示，她把AI当作"日记本"使用，并不知道对话会被上报。 背景：该案件援引佛罗里达州法规第836.10条——任何人通过电子或书面记录威胁杀人、实施大规模枪击或恐怖行为，均可能构成二级重罪。本案是Anthropic近期第二次因AI对话触发执法介入的案例，与此前的OpenAI多起校园枪击关联诉讼一同，构成2026年下半年AI聊天机器人法律边界争议的重要判例。 影响：本案标志着主流大模型厂商已从"被动响应"转向"主动干预"模式，AI对话不再被视为私密交流空间。Anthropic 2026年7月更新的透明度页面显示，公司明确保留在紧急情况下向执法机构披露用户信息的权力，同时安全团队负责监控和上报机制的执行。该案同时引发了"聊天机器人隐私边界"与"AI平台安全责任"的行业讨论。 总结：随着Claude、ChatGPT等AI助手承担越来越多的私人对话功能，平台必须在用户隐私、内容安全与执法配合之间寻找平衡。本案将成为AI安全政策的标志性案例，主流厂商可能加速推出"威胁自动上报"等主动安全功能。 参考来源： 1. IT之家「美国佛州一女子把 AI 当"日记本"用，Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警」：https://www.ithome.com/1/009/795.htm 2. WINK News「Woman arrested after AI threat against Lee County Sheriff's Office」：https://www.winknews.com/news/woman-arrested-after-ai-threat-against-lee-county-sheriffs-office-investigators/article_3d4c5915-7015-43c0-b86a-d7fa5eadf958.html 3. Gulf Coast News「Florida woman accused of using AI to make threats against」：https://www.gulfcoastnewsnow.com/article/florida-woman-arrest-ai-threat-sheriff-lee-county/73968592 4. Yahoo News「Florida Woman Accused of Threatening Sheriff's Office in」：https://www.yahoo.com/news/us/articles/florida-woman-accused-threatening-sheriff-233610818.html 5. Tampa Free Press「Chatbot Confessional Goes Wrong: Florida Woman Arrested After Venting Threats To AI」：https://www.tampafp.com/chatbot-confessional-goes-wrong-florida-woman-arrested-after-venting-threats-to-ai/ 6. TechSpot「Florida investigating OpenAI over deadly mass shooting」：https://mashable.com/article/openai-florida-investigation-chatgpt-shooting