Trillium Labs揭幕 公开AI高风险研究

时间：2026年10月2日 地点：美国加利福尼亚州湾区与马萨诸塞州剑桥市（双总部，远程办公为主） 人物：Nathan Lambert（执行董事，曾任Ai2与Hugging Face研究员）、Tom Zick（总裁，曾任哈佛大学与Charles Schwab）；顾问包括Hanna Hajishirzi、Graham Neubig、Thomas Wolf、Bryan Catanzaro；资助方包括Schmidt Sciences、Halcyon Futures等 事件详情：AI科学家Nathan Lambert与Tom Zick于10月2日正式宣布成立非营利机构Trillium Labs，主张公开出版前沿AI研究实验细节，包括递归自我改进（RSI）、AI代理（agents）、强化学习等被视为高风险的领域；机构已获得Schmidt Sciences与Halcyon Futures等投资方支持，目标募集4000万至1亿美元，未来18个月将投入约3000万美元用于模型训练 背景：当前前沿模型普遍由OpenAI、Anthropic等公司封闭于实验室，外部专家只能通过App或API调用，难以独立审视模型行为；Trillium Labs主张以科学方法对抗风险，让外部科学家能够复现与验证实验细节；与此同时，中国小米、斯坦福Marin项目等已走在开源路线上，Trillium Labs的成立标志着开放阵营进一步机构化 影响：Trillium Labs填补了开放前沿研究在RSI、自主代理等敏感方向的机构空白，让独立研究者首次拥有研究资源与发表渠道；其首批公开实验结果将成为开放派与封闭派关于AI安全监管路径争论的关键证据；监管层面，第三方科研力量可能影响FTC、白宫审计等政策对前沿模型透明度的具体要求 总结：Trillium Labs试图用科学方法打破前沿AI研究的封闭黑箱，把递归自我改进和AI代理这些被视为高风险的实验细节摊在桌面上，让全球科研社区能够独立审视和复现；这既是开放阵营的一次重要机构化尝试，也将成为未来AI安全治理路线之争的最新试验场 参考来源： - https://www.wired.com/story/trillium-labs-wants-to-do-high-risk-ai-research-in-the-open/ - https://explainx.ai/blog/nathan-lambert-trillium-labs-launch-2026 - https://www.dnyuz.com/2026/10/02/these-ai-experts-want-to-do-high-stakes-research-out-in-the-open - https://aidirectory.com/news/trillium-labs-launches-open-high-risk-ai-research - https://megaoneai.com/research/trillium-labs-open-ai-safety-research - https://wisevoter.com/world/us/2026/10/02/trillium-labs-launched-ai-research - https://urgent.news/2026/10/02/these-ai-experts-want-to-do-high-stakes-research-out-in-the-open-11478214