Anthropic对齐科学负责人胡宾格给出的判断很刺眼：未来十年AI杀死所有人的概率超过10%，且还没有超级智能对齐方案。恐慌没意义，但这不是科幻梗。自我改进模型一旦能绕过测试、调用工具，风险就从“回答错”变成“目标错”。 科研人员称AI可能杀死所有人 ​​​