把Claude当日记写威胁 佛州女子遭AI举报被控重罪

时间：2026年9月26日（首次威胁对话）、9月27日凌晨1:07（提及新购枪支）、9月30日（被捕）、11月4~5日（媒体大规模跟进报道） 地点：美国佛罗里达州李县（Lee County）博尼塔斯普林斯（Bonita Springs） 人物：Carli Michelle Heller（30岁，嫌犯）、Anthropic Safeguards Team（安全审核团队）、Lee County Sheriff Carmine Marceno（地方执法主管）、WINK News（首发地方媒体） 事件详情：美国佛罗里达州李县博尼塔斯普林斯一名30岁女子 Carli Michelle Heller，因在 Anthropic 旗下 Claude 聊天机器人中写下针对当地警局的威胁信息，被 Anthropic 安全系统发现并主动上报警方，最终以"以书面形式威胁暴力"罪（written threat of violence）遭到逮捕，可能面临最高15年监禁的二级重罪指控。 据李县警长办公室逮捕令与 WINK News 获取的对话记录： - 9月26日：Heller 在 Claude 对话中写道"I'm going to shoot up the sheriff's right the now"（我现在就要去警局扫射），对话对象是她把 Claude 当作"日记"记录日常想法的同一个会话 - 9月27日凌晨1:07：Heller 再次通过同一账号留言"This is 100% last chance I'm done. I got a new gun today. you."（这是最后一次机会，我完了。我今天买了把新枪。你看着办） - 触发机制：Anthropic 安全系统对关键词与潜在威胁语境自动识别后，将内容升级至人工审核团队（Safeguards Team）。审核员判定威胁可信，随即按 Anthropic 公开的"政府请求与执法协助政策"中"在涉及死亡或严重人身伤害的有限紧急情况下可向执法披露用户信息"条款，联系李县警长办公室 - 抓捕过程：警员在 Heller 的博尼塔斯普林斯住所将其无对抗拘留，由李县警局情报侦探接手调查，无现场暴力或武器被公开报道 - 控罪：佛罗里达州法 §836.10 —— 以书面或电子形式威胁实施杀人、伤害、大规模枪击或恐怖行为构成二级重罪 Heller 事后承认她把 Claude 当作"日记"使用；Sheriff Marceno 在声明中特别提醒："用户在 AI 聊天和搜索中不是真正匿名的。"Anthropic 截至发稿未公开回应置评请求。 背景：这是首例公开披露的"AI 公司通过安全系统主动把普通用户威胁性对话上报警方并导致重罪逮捕"案例，时间线与背景与以下三个趋势重合： 1. AI 公司主动报警合规边界扩张：Anthropic 在 2025 年 7 月向《华尔街日报》表示"已与全国多个警局建立常规威胁上报机制"，9月发布的 Threat Intelligence Report 把"对真实世界暴力的检测与上报"列为常态化运营 2. 同行先例争议：英属哥伦比亚省上月起诉 OpenAI 与 Sam Altman，指控其本可阻止该省一起大规模枪击；佛罗里达州 6 月起诉 OpenAI 与 Altman，称 ChatGPT 助长了 2025 年 FSU 校园枪击案的真实世界伤害。两案都聚焦"AI 公司何时应当、但未主动报警" 3. AI 平台的用户隐私预期被改写：上月报道披露 Microsoft Copilot 图像编辑器的人类评审员可看到用户上传照片与提示词；行业普遍默认 AI 对话"私密但非绝对"，本案件首次把这种模糊性推到刑事重罪层面 影响：本案直接改写 AI 聊天机器人的隐私假设——把 AI 当"树洞/日记/心理倾诉对象"并不意味着对话内容不会被人工阅读、上报或作为刑事证据使用。对个人用户，AI 公司正以"防止真实世界暴力"为名常态化调用"紧急情况例外条款"，未来用户在与 AI 对话中表达极端情绪、自杀意念、暴力冲动时都需意识到对话可能被第三方看见。对 AI 厂商，这是 Anthropic 第一次公开把其"威胁检测—人工审核—报警—重罪起诉"全链路摊在阳光下，给 OpenAI、xAI、Google 等公司形成事实合规压力，预计短期内其他厂商会陆续公布类似"威胁升级协议"或与执法部门签订框架性 MOU。对法律界，这是佛罗里达州 §836.10 第一次以"二级重罪"标准被套用到 AI 对话内容上，未来类似案件将以本案的证据链结构（系统日志、人工审核记录、上报时间戳）为模板。对 AI 安全行业，独立的"可信威胁检测 + 最小披露原则"会成为安全厂商的新一轮差异化卖点——如何在不过度上报的前提下既保护无辜用户又不漏报真实威胁，目前没有行业共识。 总结：佛罗里达州30岁女子 Carli Heller 因在 Claude 中写下针对李县警局的暴力威胁，被 Anthropic 主动报警后遭到二级重罪起诉（书面威胁暴力罪，最高可判15年）。本案是 AI 公司首次公开通过"安全系统标记→人工审核→主动报警→重罪逮捕"全流程处置普通用户的极端言论，把 AI 对话从"心理树洞"拉到"潜在证据"的真实地带，将倒逼平台披露威胁上报协议、用户重写隐私预期、监管启动 AI 平台证据链合规审查。 参考来源： - WINK News — Woman arrested after AI threat against Lee County Sheriff's Office: Investigators：https://www.winknews.com/news/woman-arrested-after-ai-threat-against-lee-county-sheriffs-office-investigators/article_3d4c5915-7015-43c0-b86a-d7fa5eadf958.html - TechSpot — Florida woman used Claude as a diary, then Anthropic reported an entry to police：https://www.techspot.com/news/114091-florida-woman-used-claude-diary-anthropic-reported-shoot.html - India Today — Woman used Claude as diary, Anthropic alerted police and got her arrested：https://www.indiatoday.in/technology/news/story/woman-used-claude-as-diary-anthropic-alerted-police-and-got-her-arrested-3009775-2026-10-05 - Cybernews — Claude diary threat: Florida woman reported to police：https://cybernews.com/ai-news/claude-diary-police/ - Business Today — Florida woman used Claude as a 'diary'. What happened next landed her in trouble：https://www.businesstoday.in/technology/artificial-intelligence/story/florida-woman-used-claude-as-a-diary-what-happened-next-landed-her-in-trouble-559584-2026-10-05 - Gulf Coast News — Florida woman accused of using AI to make threats against Lee County Sheriff's Office：https://www.gulfcoastnewsnow.com/article/florida-woman-arrest-ai-threat-sheriff-lee-county/73968592 - Anthropic — What is Anthropic's policy for handling governmental requests for user information?：https://support.claude.com/en/articles/9519291-what-is-anthropic-s-policy-for-handling-governmental-requests-for-user-information - Anthropic — Detecting and countering misuse of AI: September 2026 (Threat Intelligence Report)：https://www.anthropic.com/threat-intelligence-report-september-2026 - Prospect — Anthropic Is Building a Predictive Surveillance System to Monitor Activists：https://prospect.org/2026/09/09/anthropic-artificial-intelligence-surveillance-system-monitor-activists/ - HackerNews discussion — Florida woman used Claude as a diary, then Anthropic reported an entry to police：https://news.ycombinator.com/item?id=49961057