近日，全球最具影响力的三家人工智能公司的高管在联合国安理会发表讲话。与此同时，各方警告称，日益先进的人工智能系统可能很快就会自我改进，其速度将超过人类的监管能力。
顶尖研究人员、政策制定者和业内人士表示，这场辩论变得更加紧迫，因为人工智能能力的提升速度超过了各国政府制定相关规则的速度。此次讨论可能会影响未来人工智能治理方面的国际合作，影响美中就技术风险进行的谈判，并决定各国政府如何应对强大的人工智能系统带来的国家安全威胁。
向 15 名成员组成的理事会汇报情况的人员包括 OpenAI 首席执行官 Sam Altman、Anthropic 首席执行官 Dario Amodei 和 Hugging Face 联合创始人 Clément Delangue。
加拿大人工智能先驱约书亚·本吉奥是联合国支持的人工智能科学小组的联合主席，他警告安理会成员，先进人工智能带来的危险是“真实存在的，而且迫在眉睫的”。
联合国为何将人工智能视为安全问题
安理会的介入反映出各国政府对人工智能的看法发生了重大转变。人工智能曾一度主要被视为商业和技术问题，如今却日益被视为国际和平与安全问题。
外交官们表示，一个核心担忧是，先进的人工智能系统未来是否会以不可预测的方式进行互动，从而造成地缘政治不稳定，甚至引发军事冲突。
参与讨论的官员认为，这项技术的潜在影响远不止于单个国家。
与通常可与特定行为体关联的传统武器系统或网络工具不同，先进的人工智能模型可以瞬间跨越国界，同时影响政府、企业和民众。
该委员会于2023年首次审视了人工智能的风险。当时，中国警告人工智能不应成为“失控的骏马”，而美国则警告不要将其用于审查和镇压。