WIRED起底Flock警用AI 描述可触发全城追踪

时间：2026年9月3日 地点：美国 人物：Flock Safety（CEO 加勒特·兰利）、WIRED 调查记者、美国公民自由联盟（ACLU）、民主与技术中心（CDT）政策顾问汤姆·鲍曼 事件详情：WIRED 通过逆向分析 Flock Safety 的 AI 搜索工具代码，独家曝光警用 AI 监控系统的真实运作细节。系统包含"AI 监控名单（watchlist）"功能，允许警员在城市任意区域划定范围，让该区域内所有摄像头对符合自然语言描述（如衣着、性别、年龄段）的行人持续自动搜索，已不止于车牌识别。WIRED 还重建了警员操作界面并发布模拟图。 背景：Flock Safety 在美国运营超 12 万个摄像头，每月扫描 200 亿张车牌。过去一年，多起执法滥用事件接连曝光：德州副警长为追踪一名堕胎女性搜索了 83,000 个摄像头；伊利诺伊州发现 Flock 允许联邦移民机构访问州摄像头数据违反州法；至少 30 个城市取消 Flock 合同。今年 8 月 13 日，Flock 宣布改革方案，包括将数据保留期由 30 天缩短至 7 天、要求每次搜索输入案件编号、引入自动审计工具，并称将于年底前强制执行。 影响：WIRED 调查发现 Flock 新设的"护栏"只能记录滥用行为，无法阻止其发生。在敏感内容过滤上，种族、宗教类查询会被系统拦截，但受美国宪法第一修正案最严格保护的"政治、社会和文化表达"反而仅出现警告提示，并不会被拦截，技术防护方向与司法传统恰好相反。ACLU 批评这些措施只是"公关包装"，呼吁引入独立第三方审计。技术专家警告，让 AI 通过自然语言描述在视频流中识别人物是当前技术无法可靠完成的任务，存在大规模误识别风险，而 Flock 的设计却将全部"结果失准的风险"转嫁给使用警员，公司几乎全身而退。 总结：WIRED 的代码级调查把 AI 监控在执法领域的真实风险摆到台前——Flock 8 月推出的所谓"护栏"既不能阻止滥用，也无法消除算法误判，而最具讽刺意味的是，受宪法最严密保护的言论自由类别，恰好成为系统技术防护最薄弱的环节。这一案例再次提醒业界：AI 系统的安全设计不能止步于公司单方面承诺，必须接受独立审计与司法审查。 参考来源： 1. https://www.wired.com/story/flock-ai-search-user-interface/ 2. https://www.cnet.com/news/privacy/we-spotted-so-many-workarounds-for-flocks-new-rules-on-police-camera-surveillance 3. https://abcnews.com/amp/GMA/News/flock-announces-security-amid-data-privacy-concerns/story?id=135619397 4. https://www.wsj.com/tech/ai/flock-safety-adds-ai-guardrails-after-backlash 5. https://www.washingtonpost.com/technology/2026/08/02/how-police-officers-used-vast-network-cameras-spy-their-exes 6. https://theaicronicle.com/en/news/ethics/flock-safety-surveillance-privacy-overhaul 7. https://temperaturezero.com/2026/09/03/opaque-models-oversubscribed-ipos-ais-trust-deficit 8. https://aipulselab.tech/news/this-is-flocks-ai-search-tool-for-cops-705207