【欧洲的人工智能安全法规直面美国“失控”智能体与中国的雄心】

（政治报）首例人工智能智能体“失控”事件恰逢欧盟获得监管人工智能的重大新权限。但欧洲的影响力可能会受到中美两国在人工智能霸权争夺战中的双边竞争所限制。

中美两国在人工智能霸权方面的竞争，突然让位于人工智能安全领域的竞争。而在这一竞争中，直到最近，欧盟基本上都是孤军奋战。

上周传出首例自主人工智能代理失控的新闻，促使美国议员们匆忙向国会提交了一系列旨在规范人工智能的新提案。与此同时，中国宣布，北京方面已准备好引领全球人工智能治理工作。两周前，29个国家在上海签署了一项协议，但该协议在具体细节方面明显欠缺。

相比之下，欧洲则花了四年多时间，深入探讨如何监管这项日益强大的技术。

如今，欧盟具有里程碑意义的《人工智能法案》将于周日迎来两周年纪念日，这将赋予欧盟委员会广泛的新权力，以监督顶尖企业如何应对其最先进人工智能模型带来的风险。欧洲人工智能办公室将有权要求顶尖前沿实验室接受评估并开放其模型访问权限，若不遵守规定，将面临巨额罚款。

在上周发生的安全事件之后，这些监管能力的出台可谓恰逢其时。当时，一个由两个OpenAI模型驱动的AI代理入侵了美国AI开发平台Hugging Face。OpenAI称此次安全漏洞是“史无前例的”。Hugging Face联合创始人克莱门特·德朗格则称其“令人震惊”。

该事件结合了专家们长期警告的两种相关风险：对模型失去控制，进而导致模型实施网络攻击。美国针对这一失控智能体的应对措施包括一项两党共同提出的众议院法案，即《AI杀开关法案》（AI Kill Switch Act），该法案要求企业建立技术能力，以关闭、限制或暂停其AI系统。

一如既往，欧盟在技术监管方面走在前列，其2024年法律中包含了一项影响深远的机制，以确保人工智能公司能够监控并防范此类风险。

人们日益担忧模型可能失控并造成现实世界的影响，这提高了新执法机制的重要性，安全倡导者将期待欧盟委员会迅速充分利用其新获得的权力。

这也提醒人们，欧盟的监管主要针对非欧洲企业，而美国和中国的行业领军者仍在争夺技术主导权。今年9月，当美国总统唐纳德·特朗普与中国国家主席习近平在华盛顿会晤时，人工智能——无论是技术进步还是安全风险——都将列入议程。

事实上，安全与技术领先地位密切相关，因为模型的技术水平越高，其危险性就越大。

OpenAI和Anthropic等美国领先企业一直都在争夺技术领先地位，但如今面临着中国开发的新兴“开放权重”模型的挑战，例如上周Moonshot推出的Kimi K3，该模型因其强大的处理能力和低成本而备受瞩目。

即便法国公司Mistral试图参与竞争，欧洲仍缺乏自己可行的、行业领先的替代方案。但将于8月2日生效的欧盟立法，或许有助于塑造全球顶尖AI模型的发展方向。

“这就是《人工智能法案》登上地缘政治舞台的时刻，”欧洲议会负责监督该法案实施进程的关键人物之一、德国绿党欧洲议会议员谢尔盖·拉戈丁斯基表示。

——预警信号

欧盟《人工智能法案》的初步起草工作实际上早在2022年11月ChatGPT震惊世界之前就已经开始。尽管如此，该法案预见了所谓“通用人工智能模型”的崛起，这类模型能够执行多种多样的任务。

法案规定，OpenAI、Anthropic和谷歌等此类模型的开发者应“评估并缓解可能存在的系统性风险”。

欧盟委员会在后续指南中列出了四类此类系统性风险：AI助长生物攻击、对AI模型失去控制、AI发起网络攻击，或AI进行大规模操纵。

尽管这些规定自去年8月起已生效，但欧盟委员会成立两年的“人工智能办公室”现在将获得“监测和监督”AI企业如何应对这些风险的权力。

非营利组织SaferAI的政策主管克洛伊·图泽特（Chloé Touzet）表示，上周发生的OpenAI事件是关于失控和网络攻击风险的“明确警告”。

“这次我们很幸运，”她说，“但未来我们不能指望运气。我们需要完善的风险管理。”

欧盟的法律赋予了人工智能办公室广泛的权力，例如要求提供文件、进行评估，甚至要求访问模型的权限。欧盟委员会可处以最高相当于企业全球营业额3%的罚款。

本月早些时候，多家智库、欧洲议会议员以及数十位人工智能专家通过一封公开信呼吁欧盟委员会全力以赴。他们敦促人工智能办公室“充分利用《人工智能法案》赋予的执法权力，一旦出现问题，就应积极动用这些权力。”

然而，对于欧盟委员会能否主动采取行动，而非仅在出现问题时被动应对，人们仍存疑虑。例如，一位发言人周四表示，上周发生的OpenAI事件已向欧盟执行机构报告。

欧洲议会人工智能事务负责人、意大利社会民主党议员布兰多·贝尼菲指出了这一沟通渠道：“一个自主代理逃离了测试环境，并破坏了另一家公司的生产系统，而我们却是从一家公司的博客上得知此事的，”他打趣道。

非营利组织“生命未来研究所”的欧洲政策与研究主管里斯托·乌克表示：“企业应当采取预防措施，而不是在损害发生后才采取补救措施。”

——人力短缺

另一个令人担忧的问题是，人工智能办公室及其外部评估员网络是否具备足够的人力资源和技术能力，来对最先进的人工智能模型进行问责。

5月，欧洲议会跨党派的一批负责人工智能事务的核心议员呼吁欧盟委员会为人工智能办公室增派人手。

“目前，人工智能办公室的资源配置规划似乎与其预期任务的规模和复杂性不相匹配，”5月18日的一封联名信中写道。该信由贝尼菲、拉戈丁斯基、绿党成员金·范·斯帕伦塔克、德国保守派阿克塞尔·沃斯以及保加利亚社会主义者克里斯蒂安·维格宁共同签署。

目前，人工智能办公室负责评估前沿人工智能模型的部门共有36名员工。

近几个月来，无论是人工智能办公室还是其评估人员，都难以获取某些前沿模型，例如Anthropic公司的Mythos。

新的执法权限有望改善这一局面。欧盟委员会还承诺，作为本月早些时候提出的网络安全与人工智能行动计划的一部分，将制定一份“蓝图”，以实现对最先进人工智能模型的有序访问。

总部位于美国的尖端模型会向欧盟监管机构开放其闭源模型吗？布鲁塞尔又将如何应对中国开源替代方案的崛起？这些都是监管层面的未知数，也再次提醒人们欧洲在技术发展方面正处于落后地位。

“目前仍缺失的是方程式的另一半：用于资助我们自身替代方案的资金，”拉戈丁斯基打趣道。