OpenAI CEO 联合国演讲：AI 可能走向文艺复兴，也可能带来工业革命式动荡

9 月 24 日消息，当地时间 9 月 23 日，OpenAICEO 萨姆 · 奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。

奥尔特曼在联合国安理会提出，AI 正站在两条路径的分岔口——最好是一场「文艺复兴」，最坏是一场引发大规模动荡的「工业革命」。收益与风险都已变得直接：AI 能助人学习、创造、发现，但系统越自主，越可能出现人类无法理解或控制的决策、以及权力向少数人集中。他特别点名「递归自我改进」（AI 参与 AI 开发）会陡然加快技术速度，必须高度谨慎。

他把严重风险归为两类。一是「失去对未来的控制」——进展太快，人类跟不上也来不及干预；行业不能因为利益太大就接受过多风险，OpenAI 过去单方面放缓过、未来也会如此，无论灾难风险估为 10%、1% 还是 0.1% 都不可接受。二是「权力集中」——最强模型及其权力不能落在某个人、公司或国家手里，哪怕这种逻辑对自己有利也要拒绝。对应三条原则：人类始终处在 AI 决策核心、增长收益服务于人民、技术赋能个体而非取代人。

他呼吁建立国家与国际互补的前沿 AI 标准：衡量能力、评估风险、核验保障、保留有意义的人类监督，并配套事件快速报告协议与漏洞共享渠道，且不偏向任何商业模式。一条路通向权力集中、决策不透明；另一条路通向 AI 为人民服务、由民主制度共同决定方向——「这才是值得建设的未来」。