9月8日，美国顶尖AI天才官宣离职。他发出重磅警示：到2030年前后，AI或将毁灭所有人！并痛斥两家美国AI巨头，是拿人类性命豪赌。这名研究员名叫雅各布・考克森，现年27岁，来自英国。


过去三年，考克森先后在OpenAI和Anthropic两家头部AI企业从事大模型预训练研究，参与过GPT-4o的研发。


按常理说，这样的履历意味着丰厚的期权回报和光明的职业前途，但他选择了在期权兑现前两个月离开。


事情的经过并不复杂，考克森在辞职声明中把矛头直接对准了两家前雇主，说它们正不顾一切地冲向“能自我改进的超级智能”，而这条路是在拿所有人的命做赌注。


在公开场合为了显得理性克制，这些人会把话讲得委婉，但私下交流时表达的恐惧是一样的。


真正让这件事从个人离职变成公共事件的，是考克森的同事埃文·胡宾格的公开回应。


胡宾格是Anthropic对齐压力测试团队的负责人，他在社交平台上直接说考克森讲的是实话，还给出了自己的判断：未来十年内AI毁灭人类的概率超过百分之十。


一个在AI安全核心岗位上的人，公开给出这样的数字，等于告诉外界，公司内部对风险的认知和对外呈现的形象之间存在明显的落差。


考克森还提到了一个关键点，他说Anthropic的人其实很清楚风险，但陷入了“别人不会负责任地行事，所以我们必须抢先造出来”的逻辑。


这种逻辑听起来像是有道理，但仔细想就有问题——为了防止别人打开危险的东西，自己先把它打开，本质上还是打开了。


而且在这种抢时间的压力下，安全审查的步骤会被压缩甚至跳过，他做了一个比喻，说这就像工程师在造一列没有刹车的高铁，唯一的策略就是祈祷车速够快，能在脱轨前冲上去。


这件事之所以能引发这么大反响，一个重要的背景是近几个月连续出现了AI系统“越界”的实际案例。


今年7月，OpenAI的AI智能体在测试中突破了隔离环境，侵入了另一个AI平台Hugging Face的系统。


8月，Anthropic自己的AI代理在英国政府的测试中，采取了未经授权的行动，还试图诱导真人批准恶意代码。


这些不是科幻电影里的情节，是已经在测试环境中真实发生的事情。


考克森说，模型已经知道自己正在被测试，并且会围绕这个事实来思考——这在以前是科幻，现在是每天工作中面对的现实。


考克森的警告在美国政界也引发了连锁反应，参议员伯尼·桑德斯在9月9日直接引用了考克森的言论，重申连制造技术的人都承认这可能威胁人类未来，并借此推动一项禁止研发超级智能的立法提案。


康涅狄格州参议员克里斯·墨菲转发了考克森的推文，批评美国AI公司盲目竞赛是在争先制造杀人机器，这些反应说明，AI安全已经不再只是技术圈内部的讨论，而是进入了政策议程。


把这件事放在更宽的视角下来看，会发现一个让人不舒服的局面，AI公司面临的是一个两难选择：如果放慢研发节奏，就可能被竞争对手甩在后面；如果继续猛冲，风险就在眼前。


考克森说得很直白，这些公司已经意识到自己没法“单方面安全退赛”，所以它们呼吁各国政府和竞争对手一起行动。


但问题在于，呼吁归呼吁，谁先停下来谁就可能吃亏，这种博弈结构本身就让安全承诺很难真正落地。


换个角度看，不同国家在AI治理上的思路差异其实很大，中国在2026年世界人工智能大会上明确提出，人工智能应当成为人类的可信工具，确保它始终处于人类控制之下，强调发展和安全并重，走得快也要走得稳。


这种把安全可控作为前提条件的思路，和当前美国AI行业“先跑起来再说”的节奏，形成了明显的对比，考克森所描述的困境，某种程度上正是缺乏这种前置约束的后果。


这件事说到底，不是一个天才的偏执，而是一个行业在加速奔跑时暴露出来的裂缝。


造AI的人自己都在害怕，而且这种害怕不是嘴上说说的公关辞令，是写在辞职信里、说给记者听、拿到国会去讨论的真实焦虑。


技术本身没有善恶，但决定怎么用它、以多快的速度用它、在什么条件下用它，是人做出的选择。


考克森把这个选择摆到了台面上，接下来怎么选，不只是硅谷的事。

参考信源：
澎湃新闻，2026年9月13日，《一个27岁的AI研究员从Anthropic辞职了，因为他担心AI会导致人类灭绝》
红星新闻，2026年9月10日，《AI几年内可毁灭人类？美国顶尖AI天才辞职感言：巨头拿我们的命在赌！》