菲尔兹奖Tsimerman创MAISI 数学证明AI安全

时间：2026年9月11日 地点：美国旧金山湾区 人物：加拿大数学家、菲尔兹奖得主 Jacob Tsimerman 事件详情：刚刚获得菲尔兹奖的数学家 Jacob Tsimerman 宣布在旧金山湾区创办"数学AI安全研究所"（Mathematical A.I. Safety Institute，简称 MAISI）。该独立研究机构计划于 2027 年 1 月正式运作，首批将招募 10 至 30 名数学家，专注 AI 安全的形式化证明问题。与此同时，Tsimerman 还将加盟 OpenAI 安全团队。 背景：MAISI 试图填补 AI 安全领域的关键缺口：与密码学中可证明加密方案不可破解不同，AI 系统目前缺乏数学意义上的"安全证明"。Tsimerman 认为，行业目前"完全没有清晰定义什么是'安全'，甚至在理论上也没有"。该机构希望借鉴密码学的形式化方法，为 AI 系统建立可验证安全标准，包括证明系统行为可靠、多智能体协作不触发意外后果，并能抵御未知漏洞。 影响：MAISI 提出的核心技术路径包括零知识证明（zero-knowledge proofs）等密码学工具，允许 AI 系统在不暴露商业机密的前提下证明自己"未作弊"。这种"密码学式 AI 安全"思路若能落地，将大幅提升前沿模型的可审计性，缓解监管机构与公众对 AI 黑盒决策的担忧。Tsimerman 本人具备顶尖数学背景与 AI 风险研究经历，其双重身份或将成为 OpenAI 内部安全文化变革的催化剂。 总结：菲尔兹奖级别的数学权威跨界投入 AI 安全研究，标志着行业正在从"经验测试"走向"形式化证明"。MAISI 的成立将与 Anthropic、OpenAI 等公司的内部安全团队形成互补，但能否在 2027 年产出可验证成果仍待观察。 参考来源： https://the-decoder.com/the-mathematical-ai-safety-institute-wants-to-prove-ai-is-safe-the-way-cryptographers-prove-codes-are-unbreakable/ https://maisi.org/ https://www.nytimes.com/2026/09/08/science/jacob-tsimerman-math-ai-safety.html https://the-decoder.com/fields-medalist-who-published-a-paper-on-ai-driven-human-extinction-now-works-for-openai/ https://dl.acm.org/doi/10.1145/22145.22178