飞翔的智能体
@nengpao
Anthropic的前员工Jacob Coxon为OpenAI和Anthropic训练模型工作了三年，在ChatGPT Images 2.5刚刚更新后辞职了。他走时发了一条帖子，这条帖子引爆了全世界。
他透露的核心信息让整个AI圈都炸了锅：这两家公司正在直奔自我改进的超级智能而去，而这种超级智能能够黑掉任何东西，一夜之间颠覆任何领域，而且越来越快。
更让人震惊的是，建造这些系统的人真心相信，这可能在十年结束前杀死我们所有人。这不是营销话术。在媒体上他们会缓和语气以显得理性，但私下里他说听到这些人带着恐惧谈论这件事。
那为什么他们还在继续？OpenAI没有真正理解这件事的严重性。Anthropic理解，但他们被困在竞赛中：相信如果他们不先到，其他人也不会小心行事。
这本质上是一种傲慢的赌博，毁灭人类不应该从一个Slack频道开始。
对HuggingFace的攻击事件，让美国实验室之间的节奏协议变得更可行。但要减缓全球竞赛将代价高昂，甚至需要临时禁止进一步提升能力。
结尾那句话不是对我们说的，而是对他的前同事们：你真的想启动一个毁灭人类的超级智能么？
这到底是看到了什么？
话题来源 @punk2898
130.7K阅读 ❤️291 x.com/…↗ 已改写，非原文转载
23 浏览 0 评论
0 反应
