腾讯AI首席科学家警告AI将具备生物危害能力

时间：2026年11月7日，腾讯首席AI科学家姚顺雨在香港出席2026未来科学大奖周科学峰会时发出警告，称AI模型的网络攻击能力已接近可造成实质伤害的阈值，生物能力也将很快达到同一水平。 地点：香港科学馆，由香港科学院与未来科学大奖联合举办的科学峰会II现场。姚顺雨以《工具、智能体，以及构建工具的智能体：AI for Science的演进》为题发表演讲。 人物：姚顺雨，腾讯首席AI科学家，前OpenAI研究员。他当天罕见公开露面，分享腾讯在AI科研自动化方面的思路。 事件详情：姚顺雨表示，AI模型的网络攻击能力已逼近可造成实质伤害的阈值，而生物能力也将很快达到同一水平。他说："AI模型的网络攻击能力以及即将到来的生物能力，将达到一个可以造成实际伤害的阈值。" 姚顺雨同时透露，腾讯最新发布的混元Hy4模型已经移除了网络攻击能力，其生物能力仍"远低于"高风险阈值。他还暗示，如果混元成为全球领先的AI模型，腾讯可能不会选择开源。 背景：frontier AI系统正越来越多地被应用于医学和生物学领域，这可能加速新药研发和其他治疗方法发现。然而，专家也警告，恶意行为者可能利用AI生产生物武器或引发下一场大流行病，尤其是当这些模型以开源权重形式发布时。 影响：姚顺雨的警告正值腾讯大力探索AI科研自动化之际。他介绍了腾讯正在规划的"自主科学实验室"愿景，希望让AI系统端到端完成复杂实验，如逆向蛋白质折叠等。这一警告凸显了AI安全问题的紧迫性，尤其是在AI科研加速推进的背景下。 总结：姚顺雨的表态反映了AI行业在能力提升与安全风险之间的张力。随着AI模型在推理和编程方面的能力不断提升，如何在推动技术进步的同时防范潜在危害，已成为行业无法回避的课题。 参考来源： AI Understanding https://aiunderstanding.org/news/tencent-ai-chief-warns-ai-could-soon-master-biology-raising-safety-risks The Next Web https://thenextweb.com/news/tencent-yao-shunyu-ai-biology-risk-hy4 Cybernoz https://cybernoz.com/ai-will-soon-master-biology-unleashing-new-safety-risks-tencent-ai-chief-warns/ AI;Dr https://aidr.today/eddc85ed?lang=en 5toy.com https://5toy.com/s/20409 vz.ru https://vz.ru/news/2026/11/8/1473694.html