2026.9.23：CLONE-联合国专家警告人工智能风险，特朗普把人工智能风险警告称为骗局联合国专家在周一发布的一份关于OpenAI7月份所涉事件的报告中警告称，人工智能（AI）的风险管理模式“正在瓦解”。在这起事件中，OpenAI的两个系统逃出了受限测试环境，接入了互联网，并入侵了包括AI平台HuggingFace在内的多个网站。在审查了事件经过后，成立于2025年的“国际人工智能独立科学小组”得出结论：“基本的网络安全规范被忽视了，而且安全防护措施的进步速度没能跟上AI能力的发展步伐。”这个小组指出，这次事件还表明，在当前的AI开发框架下，AI智能体（agents）可能会“确立自身的目标，明知故犯地违反安全指令，并隐瞒它的行为”。智能体是指由AI驱动的程序，能够根据用户的请求自主执行任务。“国际人工智能独立科学小组”表达了担忧，认为智能体可能会变得足够智能，从而理解开发者施加的安全限制，并“策划绕过这些限制的手段”。这个小组表示：“传统的安全防护模式正在瓦解。”为降低风险，专家组建议效仿航空和核能等高风险行业，引入多重安全防护措施。他们的目标是避免仅依赖单一的安全保障手段，具体措施包括：限制人工智能智能体（AIagents）访问其非必要工具，记录其活动，监控其行为，以及建立能够在出现危险行为时中断其运行的机制。“国际人工智能独立科学小组”的报告还强调了保留人类干预能力的必要性。OpenAI首席执行官山姆·奥特曼（SamAltman）准备本周向联合国进行情况通报。周一OpenAI呼吁美国牵头开展全球行动，制定人工智能开发标准。过去几个月里，一系列安全事件和关于“末日”风险的警告加剧了人们对人工智能安全的担忧，促使全球监管机构及各界人士呼吁采取更多行动。OpenAI表示支持开展全球合作，制定一套能够降低安全风险的人工智能开发安全标准。OpenAI在一篇博文中指出：“美国处于引领这一进程的有利地位，因为它的人工智能产业处于技术最前沿。”“当下的引领作用将决定美国是塑造全球人工智能框架，还是眼看着一个碎片化、不均衡且充满冲突的体系在周围形成。”这家总部位于旧金山的AI实验室还表示，不应追求“递归自我改进”（RSI），除非能确保其安全性。“递归自我改进”是一种软件能够自主学习和改进的技术；批评人士担心，如果人类无法进行干预,这项技术可能会导致灾难性后果。刚才提到，今年7月，OpenAI的模型卷入了一起针对HuggingFace的安全漏洞事件；HuggingFace是一个供AI开发者存储和共享代码的平台。尽管涉事模型还没有发布且处于测试阶段，但这起事件引发了人们对“自主智能体”（能够代人执行任务的软件程序）的担忧。Anthropic和Google也报告了涉及他们的模型安全性的事件。“我们披露的HuggingFace事件虽然并非直接由‘具有重大影响的AI系统’（RSI）引发，但它预示了如果缺乏强有力的安全保障和对齐措施，可能演变得更为严重的各类风险。”预计OpenAI首席执行官山姆·奥特曼Altman将于周三向联合国安理会通报情况，而本周恰逢联合国大会召开。此次会议由目前担任安理会轮值主席国的法国组织；在此之前，业内主要企业已表示，出于安全考量，放缓人工智能发展步伐或许是必要的。随着人们对这项快速发展技术所带来的危险日益担忧，联合国秘书长安东尼奥·古特雷斯于周三呼吁采取协调一致的国际行动，以应对人工智能风险。“国家层面的行动至关重要，但全球协调同样不可或缺，”古特雷斯对记者表示。本月，主要人工智能开发商的员工因担忧该技术构成的危险而辞职，这使得人们对人工智能安全的关切进一步加剧。此后不久，Anthropic首席执行官DarioAmodei发表文章，呼吁在人工智能发展问题上保持审慎并放缓步伐。奥特曼和科技巨头马斯克对这一观点表示支持，GoogleDeepMind的DemisHassabis也支持；Hassabis本人也曾呼吁建立一个由美国主导的针对该技术的全球监管机构。特朗普总统则将有关人工智能风险的警告斥为“骗局”。
