最吓人的不是AI要毁灭人类，而是一群造AI的人偷偷告诉你：我们也不知道怎么刹车

Anthropic的研究员雅各布·考克森辞职了。辞职信写得非常克制，核心就一句话：两家顶级AI公司正在拿全人类的命下注。

然后他的同事、Anthropic对齐科学负责人埃文·胡宾格跑出来补了一刀：他说得对，我们真心相信AI可能杀死所有人类，我个人估计未来十年概率超过10%。

注意，说这话的人不是科幻作家，是专门负责“让AI别乱来”的那个部门的头儿。而他同时承认：我们没有解决方案。

翻译成人话就是：造高铁的工程师说，这车没有刹车，而且大概率十年内会脱轨。

考克森在辞职信里爆了一个更扎心的细节：高管们在镜头前措辞谨慎，私下里却在表达恐惧。公开发言像做公关，私人聊天像写遗书。这是一家号称最重视AI安全的公司内部的真实状态。

更要命的是他描述的逻辑：Anthropic的人很清楚风险，但他们觉得“竞争对手不会负责任，所以必须由我们先做出来”。翻译一下——为了防止别人打开潘多拉魔盒，我们决定自己先打开。

好消息是，已经有参议员提交了《禁止人工超级智能法案》，违反者最高20年监禁。坏消息是，同一时间OpenAI发布了新旗舰模型，联合创始人在台上高喊“欢迎来到AGI时代”。

一边立法禁止，一边开香槟庆祝。这就是2026年的AI行业。

不过说实话，超智能毁灭人类这件事，普通人真正焦虑的还不是这个。今天AI已经在干了的事，比“十年后可能毁灭人类”更让人睡不着：财富加速向极少数人集中，白领岗位被批量替代，而你连转行的方向都找不到。美国10%的家庭握有88%的财富，AI造富的盛宴跟普通人基本没关系。有人预测未来1到5年AI可能抹去一半的白领工作，失业率推高到10%到20%。

超智能要不要毁灭人类，那是十年后的事。但AI已经在毁灭你的饭碗了，这是今天的事。

所以想通了一件事：如果AI真能毁灭人类，富人的钱也跑不了，我跟他们一起完蛋，好像也没那么亏。但AI先让我失业、让财富更不平等，富人在那边数钱我在家里投简历——这才是真正让人血压升高的地方。

AI不可怕，可怕的是造AI的人自己都在害怕，却没有人愿意先停下来。

AI辞职信揭穿行业恐惧 超级智能10%灭绝概率 对齐问题无解 AI失业潮 科技伦理

你们觉得，先解决“AI抢饭碗”，还是先解决“AI毁灭人类”？欢迎评论区聊聊。