AI研究员Jacob Coxon已离开Anthropic和AI行业，他警告称，主要实验室在缺乏足够安全措施的情况下竞相追求自我改进的超级智能，这是在“拿我们的生命赌博”。 Coxon表示，未来的AI系统可能变得能够“黑[客]任何东西”，迅速改变整个领域，并获得重大的现实世界权力和资源。 他警告称，实验室内的一些人“真诚地相信”此类系统可能在本十年末之前潜在地杀死人类。