这篇文章提供了一个非常典型的西方技术精英视角：他们敏锐地捕捉到了AI失控的风险，开药方时却又不自觉地陷入了冷战叙事。美国AI专家表面呼吁合作，又把当前的AI竞争类比为美苏核对抗和军备竞赛——这是一种根深蒂固的思维惯性：任何关乎人类未来的重大技术，都必须建立在两极对抗的底层逻辑之上。于是他们一边担忧切尔诺贝利时刻降临，一边试图用“相互确保摧毁”的旧框架来寻找新时期的解决方案。这本质上是在为一套地缘政治议程提供合理性：如果AI的终极格局只能是两极对峙，那么遏制对手就比共同治理优先级更高。这才是这套思维模式的问题所在——它用排他性和双标，替代了真正的国际合作。2023年10月18日，在第三届“一带一路”国际合作高峰论坛上，中国正式提出了《全球人工智能治理倡议》，这是一个国际治理框架，旨在推动构建开放、公正的人工智能治理机制 。美国目前没有对应的、成体系的、以“全球治理”为核心的官方文件。我觉得实在不行它们可以抄一个用用——如果能接受中国预设的平等视角的话。而且我非常怀疑，这些美国AI专家到底是担忧的AI本身带来的风险，还是担忧失去AI规则的单方面定义权？别看这些美国AI专家说了什么，看他们做了什么：网页链接

《连线/WIRED》：我与中国顶级AI专家会面，他们也表示担忧——“这场中美之间的AI军备竞赛，正让双方研究人员都担忧会出现类似“切尔诺贝利时刻”的灾难性风险”

⚪大约一周多前，我参加了在北京中关村举办的一场重要人工智能会议。

会议内容非常丰富，从“递归自我改进”（即模型可以修改自身代码并不断提升能力）到人形机器人都有涉及。同时也出现了一些计算机科学界的传奇人物，包括公钥密码学的联合发明人惠特菲尔德·迪菲，以及与理查德·萨顿共同获得图灵奖的强化学习先驱安德鲁·巴托。

但离开时，我最大的感受只有一个：中美应该暂时搁置激烈的AI竞争关系。

前沿AI的网络安全与系统性风险已经严重到不能忽视的程度，而越来越强的“智能体模型”可能很快会带来混乱，除非全球最强的AI国家能够合作应对。

MIT计算机科学家斯蒂芬·卡斯珀在会上通过视频发言后对我表示：“AI是一种全球性技术，它带来全球性的收益与风险，并且新能力最终总会扩散。”

到目前为止，美国主要将中国在AI领域的进展视为经济与国家安全威胁。美国已对芯片及相关制造设备实施严格限制，以遏制中国发展强大AI能力。

最近，美国政府还要求Anthropic阻止外国用户访问其最强模型（Mythos与Fable 5），理由是国家安全风险。作为回应，Anthropic直接关闭了所有人的访问权限。

但这次由北京人工智能研究院组织的会议强化了一个观点：无论中美，若AI发展过快且缺乏控制，双方都将承受损失。

随着AI变得更强、更具自主性，并更深入融入日常生活，它被用于网络攻击或出现灾难性失控的风险也会不断上升。而由于中美掌握着最先进的模型，两国之间的合作显得尤为关键。

卡斯珀引用研究指出，在AI风险领域，国际合作带来的收益大于国家安全风险。他将当前局势类比为美苏在核武器时代被迫合作应对核风险，即便双方仍在竞相扩充军备。

他说：“在AI领域几乎所有人都能达成共识的一点是：我们不需要一个‘切尔诺贝利时刻’。”

一整天的讨论中，一个核心主题是先进AI带来的网络安全挑战具有普遍性，包括AI生成代码中的新型漏洞、智能体工具使用带来的攻击方式变化，以及自动化社会工程攻击手段。

在另一场讨论后，我采访了上海交通大学教授林云，他在AI与计算机安全领域有重要研究。

林云表示，在短期内黑客可能占据优势，但随着新的防御技术出现，包括利用AI本身作为防御工具，长期来看防守可能重新占优。

他认为，即使国际合作受到竞争影响，它仍然应该是优先事项。

他说：“如果不同国家对风险的理解相似，就更容易建立共同的安全原则和技术标准。关键是找到既能降低系统性风险，又不泄露敏感信息的共享方式。”

对两国来说，一个最紧迫的问题是：如何在“开放”与“安全风险”之间取得平衡。

开源权重模型已经成为研究与创新的重要基础，中国模型在美国也相当流行。但随着模型能力增强，它们被用于帮助黑客发现系统漏洞、甚至转化为网络武器的风险也在上升。

过去几年，中国公司在高能力开源模型方面处于领先，包括月之暗面（Moonshot）的Kimi、阿里巴巴的Qwen，以及智谱AI的GLM。

美国近期也重新推动开源模型，例如英伟达的Nemotron。

但我们正接近一个拐点：即使能力较弱的开源模型，如果缺乏安全限制，也可能变得危险。

智谱AI最新模型GLM 5.2据专家分析已具备接近前沿模型的智能体与编程能力。

下一代开源模型甚至可能达到与Fable或Mythos相当的水平。

事实上，就在本周，中国网络安全公司360表示，他们已开发出一款具备与Mythos相当黑客能力的AI模型。

林云表示，行业需要新的机制来确保开源模型是安全的、没有后门和漏洞，并且符合安全标准。

一个可能的征兆？一位中国领先的人工智能公司内部人士向我透露，由于未获授权采访媒体，他要求匿名。该人士表示，部分基于安全方面的担忧，可能导致中国一些先进模型不再以开源形式发布。

（这是威尔·奈特AI实验室通讯的某一期）