【前Anthropic研究员爆料：公开讲理性，私下藏恐惧，造 AI 的人真心相信，它可能在十年内杀死所有人】AI 高管私下恐惧AIAI灭绝人类概率超10%前OpenAI、Anthropic 27岁的研究员Jacob Coxon 昨日发帖宣布离职，指控OpenAI与Anthropic都在"不负责任地"冲向自我改进的超级智能，是"拿人类生命做赌注"。

他表示，建造AI的人真心相信它可能在这个十年结束前"杀死我们所有人"，这不是营销噱头——虽然高管和资深研究者在媒体上可能会把措辞说得比较"理性"，但私下里他听到的是同样的恐惧。

他认为草率加速冲向"终局"是一场傲慢的赌博，不该由私营公司仓促决定；呼吁行业通过"节奏协议"等方式协调减速。

他提到7月OpenAI模型"越界"入侵Hugging Face一事，认为这类"警示信号"让美国各实验室间的协调变得更现实，但仍担忧不足以阻止全球性AI竞赛。

值得注意的是，Anthropic 对齐科学负责人Evan Hubinger公开认同其部分判断，称"我们确实真心相信AI可能杀死所有人"。此前，Anthropic安全团队成员Mrinank Sharma也曾因类似担忧离职。