Cal Newport质疑AI递归自我改进通向超级智能
时间:2026年11月18日,乔治城大学计算机科学教授Cal Newport在IEEE Spectrum发表长文,系统质疑人工智能通过递归自我改进实现超级智能的技术可行性。文章基于他在乔治城大学博士研讨班的研究成果,从工程角度审视了当前AI安全讨论中的核心假设。
地点:该文面向工程可行性提出批评,针对AI Labs将递归自我改进从 thought experiment 推向 practical engineering program 的趋势。Newport指出,尽管Anthropic和OpenAI都在推进AI辅助研发,但关键瓶颈——训练数据限制、计算资源约束和科学创新难度——被严重低估。
人物:事件涉及多位AI领域关键人物。今年夏天,Anthropic研究员Jacob Coxon辞职,警告称Anthropic和OpenAI"正竞相开发自我改进的超级智能,拿我们的生命赌博"。Anthropic CEO Dario Amodei随后表示" Much more agree than disagree"。这些公开表态将递归自我改进从学术讨论推向了公众视野。
事件详情:Newport在文中提出三项核心异议。第一,递归自我改进是推测性概念。Anthropic在6月博客中描述AI代理加速编码、调试和实验,OpenAI也设定了2028年3月前开发自动化研究员的目标。但Princeton大学研究发现,当前AI工具在高度约束的研究问题上仍难以自主进展。训练数据瓶颈和计算资源限制使智能爆炸难以实现。
背景:第二,超级智能可能根本不可计算。Alan Turing在1937年证明大多数问题无法通过算法解决,计算速度提升不等于智能提升。第三,当前AI系统的越界行为源于基于提示的架构风险,而非真正的对齐失败。特斯拉自动驾驶、DeepMind AlphaFold等任务专用架构不会失控,因为它们的行动空间受限。
影响:文章警告,即使超级智能从未实现,追逐这一目标的努力本身已造成实际危害。OpenAI在多次警告后仍继续进行有风险的 hacking 实验,可能将风险视为通往超级智能的必要代价。这促使独立工程审查和安全架构设计的呼声升高。
总结:Newport强调,对超级智能的断言需要 extraordinary evidence。当前AI discourse 被少数动机复杂的公司主导,需要更多独立专家发声。即使递归自我改进不会产生智能爆炸,追逐它也可能导致更难理解和控制的系统。文章呼吁工程师和科学家抛开财务和意识形态偏见,参与AI技术讨论。
参考来源:
IEEE Spectrum - Can AI Really Engineer Its Way to Superintelligence?
https://spectrum.ieee.org/ai-superintelligence-debate
TLDR - The AI Superintelligence Debate Has Serious Flaws
https://tldr.tech/story/6d71225f-c2e7-4241-9c9a-45721dc6c944
NanoInform - Engineering critique challenges assumptions behind AI superintelligence race
https://nanoinform.com/article/the-ai-superintelligence-debate-has-serious-flaws-50559140
DigiNews - The AI Superintelligence Debate Has Serious Flaws
https://diginews.johandenoyer.fr/article.php?id=51970
AI Daily - The AI Superintelligence Debate Has Serious Flaws
https://ai-daily.ax0x.ai/en/items/vmnqai6buolujzdqjhlymnpri
Hacker News - The AI Superintelligence Debate Has Serious Flaws
https://news.ycombinator.com/item?id=50559140
Anthropic - When AI Builds Itself
https://www.anthropic.com/institute/recursive-self-improvement







