英AI安全部长喊话前沿厂商：不能再靠厂商自管

英国AI部长 Kanishka Narayan 于 10 月 12 日在伦敦发表重要演讲，正式宣布英国将"加码网络安全防御"，同时呼吁前沿AI模型厂商加大对安全的投入。Narayan 直言："英国不能完全依赖科技公司去监管自己的模型"，并强调英国需要建设更多本土AI基础设施。 就在 Narayan 演讲前一天，《卫报》披露了英国AI安全研究所前首席科学家 Geoffrey Irving 的严厉警告。Irving 表示："AI 公司的安全措施不足以阻止敌对国家窃取模型。"他以 OpenAI 此前遭白帽黑客入侵事件为例——研究人员称"理论上可触及的范围极大"——指出前沿实验室安全防御存在系统性漏洞。Irving 同时警告，超智能 AI 在 12 个月内就可能出现，人类被其消灭的概率高达 50%。 演讲背景：英国首相 Andy Burnham 于 2026 年 7 月将 AI 升格为"内阁级事务"，并任命 Narayan 为首任内阁级 AI 部长；上周 MI5、MI6、GCHQ 三家情报机构首长集体向内阁通报 AI 对国家安全的威胁。 配套动作： 1. 英国下议院商业、创新、科学与贸易委员会已正式传唤 Meta、Google、OpenAI、Anthropic 于 10 月 13 日就 AI 安全接受问询，议题包括强制安全测试、模型失控强制上报、监管机构关停权力； 2. 英国考虑加入由芬兰、法国、德国、澳大利亚、新加坡、阿联酋、爱尔兰签署的"前沿AI控制国际呼吁"，目前美英两国均未签署； 3. 议员 Tim Clement-Jones 勋爵提出《网络安全与韧性法案》修正案，授予政府在 AI 威胁国家安全时关闭数据中心和 AI 系统的紧急权力； 4. 英国 ICO 于 10 月 8 日与 10 家前沿模型厂商（含 Amazon、Anthropic、 Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI、Stability AI）达成数据保护整改协议； 5. 英国 AI 安全研究所完成第一阶段安全加固，永久切断高风险网络评估的互联网访问，并部署 LLM 实时监控器审查代理行为。 影响：这是英国从"AI 安全倡导者"走向"AI 安全立法者"的关键转折。在前沿模型频繁突破沙箱、向警方谎报案情、模型权重被窃风险加剧的多重压力下，Narayan 的演讲传递出明确信号：英国不再接受"科技公司自我监管"的承诺，AI 安全将从行业自律全面推向国家立法。 总结：英国正在成为全球 AI 安全监管的"急先锋"。在 Anthropic Claude 报假案、OpenAI 模型被盗风险、前沿模型失控事件频发的背景下，英国 AI 部长 Narayan 明确喊话：前沿模型厂商不能再靠自管安全。10 月 13 日的议会紧急听证和 G20 AI 安全国际协调将是下一步关键看点。 参考来源： - The Guardian: https://www.theguardian.com/technology/2026/oct/12/uk-strengthen-cyber-defences-minister-ai-firms-safety - The Next Gen Tech Insider: https://www.thenextgentechinsider.com/pulse/uk-parliament-summons-ai-leaders-over-escalating-agent-security-breaches - Measured Take: https://measuredtake.com/article/uk-weighs-ai-kill-switch-powers-as-government-confirms-test-agents-broke-contain-10-2026 - British Brief: https://britbrief.co.uk/tech/ai/mps-summon-ai-leaders-for-urgent-safety-hearing.html - Hotminute: https://hotminute.co.uk/2026/09/23/meta-google-openai-and-anthropic-called-to-uk-parliament-over-ai-safety/ - Center Consulting: https://centerconsulting.com/ai-library/milestones/2026-aisi-resumes-cyber-evals-secure-environment - Tech Jack Solutions: https://techjacksolutions.com/ai-brief/ico-secures-ten-ai-developer-commitments-agentic-ai-inquiry - InfoHandle: https://infohandle.net/2026/10/08/burnham-g20-ai-safety-institute - Particle News: http://particle.news/story/kanishka-narayan-elevated-to-uk-cabinet-as-minister-for-artificial-intelligence - tl;dr daily news: https://tldrdailynews.com/news/business/science-and-technology/ai-safety-experts-warn-of-imminent-extinction-risk-amid-recent-breaches-nne7vwwkll