Anthropic 的一名预训练研究员，9月9日宣布离职。他担心AI走向失控，“它可能会在十年末杀死我们所有人”。

Jacob Coxon发文说，我过去三年在 OpenAI 和 Anthropic 都从事过预训练研究。两家公司都没有负责任地行事。他们正直奔自我改进的超级智能而去，用我们的生命在赌博。

不要低估这项技术的力量。这些系统很快将成为超人类系统，能够入侵任何事物，在一夜之间彻底改变任何领域，并获得真正的权力和资源。

那些认真开发人工智能的人真心相信，它可能会在十年末杀死我们所有人。这不是营销噱头。我私下听到这些人表达恐惧。

“如果他们真的相信这一点，为什么还要继续建造它？”

在 OpenAI，许多人并没有深刻内化其中的文明风险。

在 Anthropic，这些风险被很好地理解，但他们陷入了一场抢先到达的竞赛：他们相信其他人不会负责任地行事，所以他们必须自己动手，尽管存在风险。