AI灭绝人类概率超10% 在前沿大模型预训练科学家雅各布·考克森宣布退出Anthropic并警告实验室正在“拿人类生命进行豪赌”之后，Anthropic现任AI对齐科学主管埃文·胡宾格公开发文表示：

他个人评估人工智能在未来十年内彻底杀死所有人类的概率大于10%

胡宾格作为负责确保AI价值观与人类意图对齐的核心科学家，公开写道：

“雅各布在这里说得很对——我们确实真切地相信AI有可能杀死所有人类！我个人认为，在未来十年内发生这种情况的概率大于10%。我相信Anthropic正在竭尽全力，但针对超级智能，我们目前根本没有解决安全对齐的方案，而且显然也没有步入能够解决的正轨”