热门AI工具推荐

焚书AI多模型聚合平台
AI多模型聚合平台( Claude 系列、GPT 系列)支持聊天、搜索、图片、视频、音乐等多种功能;聚合了 Claude 系列(如 Sonnet 5、Opus 5 等)、Gemini 系列、GPT 系列、DeepSeek(搜索模式默认调用 DeepSeek V4 Pro)以及通义千问、Kimi 等数十款国内外主流模型。
AI编程订阅服务,支持多款国产主流编程模型自由切换。
Seedance 2.0AI视频生成
具备卓越的物理真实性和角色一致性,可生成电影级视频内容。
方舟 Agent PlanAI智能体订阅
火山引擎推出的全场景AI智能体订阅服务,通过一个订阅整合5大主流模型和10+AI工具
SpeedAIAI内容检测降重
AI内容检测与降重工具,能有效帮助用户通过论文AI率检测
秒哒AI工具
不懂代码也能开发应用?百度秒哒:无需编程,快速搭建小程序与网站
有戏AIAI漫剧生成工具
全流程AI短剧创作工具,实现从剧本到成片的自动化生产,让“一人即剧组”成为现实。
沁言学术智能科研平台
一站式文献管理与科研写作工具,支持边写作边搜索文献,高效阅读,文献管理,

OpenAI引入四家外部机构嵌入式评估AI安全

时间:2026年11月16日 地点:美国旧金山 人物:OpenAI、Apollo Research、METR、Transluce、Goodfire 事件详情:OpenAI宣布与四家独立AI安全评估机构签署协议,启动“嵌入式评估”第一阶段。这四家机构分别是Apollo Research、METR(Model Evaluation and Threat Research)、Transluce和Goodfire。评估人员将进入OpenAI内部,对模型对齐、安全防护和潜在规避行为进行深度检查。Apollo将派驻六名评估员在OpenAI工作四个月,重点检查训练过程是否会鼓励模型规避自身或后续模型的安全机制。METR将对OpenAI最大规模的强化学习训练运行进行对齐评估。Transluce将从12月初开始进行六周试点,审查内部发布后的对齐评估,包括原始思维链输出。Goodfire将使用可解释性方法研究模型内部机制。 背景:随着AI模型能力提升,独立安全评估的重要性日益凸显。此前METR与Redwood Research已对OpenAI的错位监控系统进行过试点测试,发现了新漏洞。OpenAI此前承诺允许独立第三方评估人员获得类似员工的访问权限,但实际安排受到批评。 影响:这是AI行业首次有大型实验室允许外部评估人员如此深度访问内部系统。但评估范围受协议限制,OpenAI可要求对机密信息进行编辑,且涉及内部独有模型的结果不得发布。Apollo和Redwood Research批评这些安排未达到此前承诺的“类似员工”的访问标准。对于依赖OpenAI系统的组织,这些协议代表 expanded external scrutiny,但并非安全认证。 总结:OpenAI的嵌入式评估标志着AI安全评估从“发布前测试”转向“训练中监控”。四家独立机构的参与提供了多角度检查,但访问限制和编辑权意味着评估结论需要结合范围和限制来看待。后续里程碑包括Apollo的两份公开报告和2027年初更全面的评估。 常见问题: 问:OpenAI嵌入式评估和之前的第三方评估有什么区别? 答:之前的评估多在模型发布前进行,而嵌入式评估允许评估人员进入OpenAI内部,在训练和内部部署期间实时检查模型行为和对齐机制。 问:Apollo Research的评估会持续多久? 答:Apollo的评估计划持续四个月,预计发布两份公开报告,分别涵盖训练激励规避行为和内部部署期间的规避推理检测。 参考来源: CNBC https://www.cnbc.com/2026/11/16/openai-independent-ai-safety-evaluators.html TechCrunch https://techcrunch.com/2026/11/16/openai-will-embed-apollo-researchers-to-investigate-ai-subversion/ Transluce https://transluce.org/embedded-assessment-pilot-with-openai CASRAI https://casrai.org/news/openai-embedded-assessments-apollo-metr-2026 Mallory https://mallory.ai/stories/01a1e8fb-e281-7a96-b2d6-5073369a6731 ITMedia https://www.itmedia.co.jp/news/article/2611/17/2000003248/ Apollo Research https://www.apolloresearch.ai/blog/pilot-towards-embedded-evaluations Blockchain.News https://blockchain.news/ainews/openai-launches-embedded-assessments-with-outside-experts

OpenAI · 更多动态

进入专题

同日其他快讯

11月18日 汇总