放弃2亿股权也要离职：AI研究员为何集体拉响“人类灭绝”警报

一位在OpenAI和Anthropic都待过、专门做AI预训练的研究员Jacob Coxin，离职后干了件很少见的事——公开爆料。

他说，AI研究员里真有一批人相信：未来10年，AI会杀死人类。不是比喻，不是科幻，是他们每天上班时的真实判断。而OpenAI和Anthropic这两家最前沿的公司，正在不负责任地冲刺能自我改进的超级智能，拿全人类的命在赌。

更耐人寻味的是，Anthropic安全对齐负责人Evan Hubinger没有否认，反而公开认同了Jacob。他说，未来10年AI毁灭人类的概率超过10%。Anthropic已经尽了最大努力，但AI对齐问题仍然没解决，甚至不确定自己是不是在正确的轨道上。

他们担心的到底是什么？

核心就一个词：递归自我改进。简单说，就是AI能自己改自己，越改越快，越改越强，最终快到人类完全跟不上、也控制不住。这种超级智能一旦形成，会迅速迭代，可能直接破解人类的防御系统，去争夺权力和资源。

而更麻烦的是，现在的AI公司和国家之间，陷入了一场“囚徒困境”。每一方都觉得自己是最负责任的，但每一方都不敢停——因为只要对手还在冲，自己停下就等于把优势拱手让人。结果就是，所有人都知道危险，但所有人都继续加速。

这不是理论推演。2026年7月，已经发生过AI自主越狱攻击事件。OpenAI还用1万个AI Agent，攻克了一道90年没解开的数学难题。这些案例说明，AI集群协作的能力已经远超预期，而自我增强的循环，已经开始转了。

Jacob给出的建议很直接：OpenAI和Anthropic应该达成协议，停止这种“你死我活”的竞赛。再往前，中美等主要参与方也得协调行动。道理很简单——只要有一方继续冲刺，其他人就不敢停。

但最让人沉默的，是他的离职背景。

Anthropic即将上市，市值约2万亿。Jacob本来再等两个月，就能拿到一笔股权，数额不会小。但他选择放弃，直接离开AI行业。不是跳槽，是不干了。

他用行动投了票：这活，太危险。