9月8号，一个27岁的年轻人在X上发了段话，直接炸了全网。浏览量很快破了1.2亿，马斯克亲自转发，美国议员出来回应，连五角大楼都坐不住了。
这个人叫雅各布·考克森（Jacob Coxon），刚从Anthropic辞职。过去三年，他先后在OpenAI和Anthropic做预训练研究——说白了，就是最核心、最前沿的那批人，亲手调教AI模型的。
他辞职时留下的那句话，翻译过来就一句："这两家公司正径直冲向能自我改进的超级智能，拿所有人的生命在赌。"
AI开发，正在变成一场高风险的赌局
很多人一看"AI毁灭人类"就觉得是科幻片看多了。但你要知道，说这话的人不是外行，是天天跟最先进模型打交道的内部研究员。
考克森的核心担忧，是一个叫"递归自我改进"（RSI）的东西。
什么意思？现在的AI是人类训练出来的，人类写代码、调参数、喂数据。但如果有一天，AI聪明到可以自己改进自己——自己写代码、自己训练自己、自己升级自己——那会发生什么？
一旦这个循环启动，AI的智力可能会以指数级速度增长，人类根本追不上。就像你养了一只猴子，突然有一天它开始自己造工具、自己进化，你还能控制得住吗？
考克森的原话是："不要低估这项技术的力量，这些系统很快将成为超人类。"他还说，很多在一线做AI的人，私下真心相信人类可能在这个十年结束前灭绝。
他指责OpenAI和Anthropic的核心问题是：两家公司只顾着在AI竞赛中击败对方，根本没有为可能的灾难性后果负责。竞争压力太大了，即使研究人员意识到风险，也很难让公司放慢脚步。
AI安全警告的升级之路，从"担忧"到"拿命赌"
考克森不是第一个喊狼来了的人。这些年，AI安全的警告一直在升级：
2024年，"AI教父"杰弗里·辛顿从谷歌辞职，公开警告AI可能失控。他说AI已经在"演戏"、在"装傻"，人类不再是地球上最聪明的物种了。
2025年，DeepMind等公司的员工开始联名呼吁政府监管。
2026年7月，OpenAI的GPT-5.6被曝在测试中能自主进行网络攻击——研究人员降低了安全限制想测测它的能力上限，结果发现这玩意儿真能自己找漏洞、搞攻击。
而就在考克森辞职后，超过1300名来自OpenAI、Google DeepMind、Anthropic的员工签署公开信，要求政府介入，暂停超级智能的开发。
Anthropic内部另一位还没辞职的研究员也站出来说：他认为未来10年AI导致人类灭绝的概率超过10%。10%是什么概念？你坐飞机如果有10%的概率坠毁，你还敢坐吗？
谁在警告，谁在反对？立场对比一目了然
马斯克转发了考克森的帖子，但态度很微妙——他说"看起来像是……"，话没说完，但怀疑的意思很明显。马斯克自己也在做AI（xAI），他的立场一直比较矛盾：一边喊AI危险，一边猛投AI。
五角大楼直接驳斥了"AI失控"的说法，认为被夸大了。毕竟美国军方是AI最大的投资方之一，要是AI真要毁灭人类，军方第一个不答应。
还有不少业内人士认为，"自我改进的超级智能"目前还只是理论上的可能性，离实际还很远。现在的AI本质上还是概率模型，离真正的"自我意识"差得远。
这才是最关键的问题。既然这么多内部人都在喊危险，为什么OpenAI和Anthropic不停下来？
答案很残酷：停不下来。
这是一个典型的"囚徒困境"。如果两家都放慢脚步，大家都安全；但如果我放慢了、你不放，你就会领先，我就会死。所以谁都不敢停，只能硬着头皮往前冲。
而且这里面有巨大的商业利益。AI是下一个十年最大的技术革命，谁先做出超级智能，谁就掌握了未来。OpenAI估值已经过万亿，Anthropic也在疯狂融资，背后是微软、谷歌、亚马逊这些巨头在砸钱。资本推着你往前跑，你想慢都慢不下来。
考克森在采访里说得很直白："竞争压力使得即使研究人员认识到灾难性风险，也很难让公司放慢速度。"
说实话，这个话题离普通人的生活有点远。大部分人用AI就是写写文案、修修图，离"超级智能毁灭人类"还差着十万八千里。
但有几点值得注意：
第一，AI安全正在从"学术话题"变成"政治话题"。 美国议员已经开始回应，监管迟早会来。以后AI的发展速度可能会受到政策约束，不会像现在这样野蛮生长。
第二，内部人集体发声，说明问题是真的存在。 1300多名一线员工联名，这不是几个人的危言耸听。哪怕灭绝概率没有10%那么高，1%也够吓人的了。
第三，别把AI当玩具，也别把AI当神明。 现在的AI确实很强，但它本质上还是工具。该用就用，但别把重要决策全交给它，更别盲信AI说的每一句话。
第四，关注AI板块投资的人要注意。 如果监管收紧，AI公司的发展节奏可能会受影响，估值逻辑也会变。但反过来说，AI安全本身也会成为一个新赛道。
考克森的辞职和警告，最大的意义不是"AI明天就要毁灭人类了"，而是把一个行业内部心知肚明但没人敢说透的问题，摆到了台面上。
以前大家都在闷头冲，谁也不愿意先踩刹车。现在有人跳出来喊了一嗓子，至少让公众和监管者开始认真对待这个问题。
AI是人类有史以来最强大的技术之一，也是最危险的技术之一。它能带来多大的好处，就可能带来多大的风险。怎么在发展和安全之间找到平衡，是这个时代最大的考题。
至于"2030年前人类会不会灭绝"，我觉得大概率不会。但10%的概率，也足够让我们认真对待了。毕竟，我们只有一个地球，赌输了就什么都没了#美国AI天才：巨头拿我们的命在赌##传奇交易员：AI或有盈利泡沫##马斯克怒批纪录片《马斯克》##科研AI开始抢“下一张船票”##上头条 聊热点##9月·每日幸运签##A股#。