2026年9月，Anthropic前研究员辞职发文，直指OpenAI和Anthropic正不顾风险竞相开发超级智能，警告AI可能在2030年前毁灭人类。Anthropic安全主管埃文·胡宾格公开回应，确认内部相信此风险，评估未来十年内AI灭绝概率超10%。公司坦承目前根本没有解决超级智能安全对齐的可行计划。核心在于递归自我改进：AI自主迭代优化，诞生远超人类的超级智能，一旦目标偏离人类利益，其颠覆性能力将导致人类彻底失去控制权。商业竞争下，各大实验室陷入“谁停下谁就输”的囚徒困境，安全审查被迫降级。这些警告不是耸人听闻，而是基于内部真实评估的警报。我们必须优先解决对齐问题，否则后果不堪设想。 AI研究人员警告人类灭绝风险