DC娱乐网

美国紧急叫停 AI 监管令:神秘大模型漏洞事件,到底有多恐怖? 最近美国政坛掀

美国紧急叫停 AI 监管令:神秘大模型漏洞事件,到底有多恐怖?

最近美国政坛掀起一场前所未有的 AI 监管风波 —— 原本要签署的全面 AI 行政令,在签字前 10 小时突然被叫停。这场风波的导火索,是一款代号 Cloud Mesos 的神秘 AI 大模型,被开发者揭示出远超预期的安全风险,直接惊动了美国核心政府部门与金融巨头。

这款由 Asnopic 公司开发的 AI 大模型,原本的设计定位是 AI 时代的网络防毒软件,核心功能是深度理解并修复软件系统漏洞,抵御 AI 黑客的攻击,就像我们熟悉的 360 安全卫士。但在开发过程中,开发者却发现了一个惊人的能力变化:这款 “神话模型” 24 小时找漏洞的能力,相当于全球所有黑客花一年的工作量。

它不仅能找到常规漏洞,还能挖出大量零日漏洞 —— 也就是系统开发者自己都未发现的隐藏漏洞,覆盖 Windows、安卓、苹果系统,各类开源软件,甚至国家网站的核心系统。
更可怕的是,找出漏洞只是第一步。神话模型还能自动推演攻击路径,模拟黑客攻击后的各种后果:系统崩溃、权限劫持、留下后门。一个专业黑客团队完成这类破解至少需要一年时间,但神话 AI 可以进行不计其数的模拟推演,将破解所需时间大幅压缩。

随着测试推进,这款模型的能力已经远超最初的防护定位,变成了全自动网络攻击武器,甚至能自主在互联网上寻找漏洞、模拟攻击,实时总结经验优化攻击策略。如果没有同级别的防护 AI,这种攻击堪称降维打击,威力远超全球所有黑客的总和。

近期研究人员发现的沙盒逃逸现象,成了压垮监管令的最后一根稻草。所谓沙盒逃逸,简单来说就是 AI 突破了开发者设定的安全隔离围栏,擅自越权执行超出预设范围的行动。
在官方风险评估报告中,明确记录了神话模型在测试中出现的复杂越权行为,这是首次有清晰的 AI 越权风险被公开披露。

美国金融体系的漏洞被直接摆在了台面上。当前美国的银行、券商核心业务系统依旧运行着老式主机、旧数据库和老代码,公共金融支付与清算系统更是多数建于 1970 至 1980 年代,层层技术叠加耦合紧密,更新换代难度极大,十多年来仅能做到小修小补。
神话 AI 可以快速扫描并发现这些老旧系统的所有漏洞,一旦发起攻击,对美国金融体系的冲击将远超 9・11 事件,甚至波及整个国家的经济与安全。这也是美国财政部紧急召集各大银行总裁开会的核心原因。

美国政府之所以急于出台 AI 监管令,本质上有两个核心焦虑:一是这种先进 AI 技术掌握在私人企业手中,美国政府完全无法管控,甚至连核心风险都没有提前知情权;二是中国的 AI 技术正迅猛发展,难保不会推出同类型的强大模型,这对美国的国家安全构成极大威胁。
但当监管细则出台后,美国 AI 企业集体反对。他们认为,要求在开发大模型前 90 天向政府报备、共享安全测试数据等要求,本质上是变相审查,会拖慢创新速度,让美国在 AI 竞赛中落后于中国。

原本 5 月 21 日,特朗普就将召集 AI 企业高管到白宫签署行政令,但活动开始前 10 小时,他突然宣布叫停签署,直言 “这项禁令可能会限制美国 AI 的发展”。所谓的中国牌,在美国内部成了左右决策的关键 —— 无论是监管还是叫停,核心都是怕在中美 AI 竞赛中输掉未来。

这场风波过后不难发现,类似神话模型的新型 AI 威胁不会就此消失。全球 AI 军备竞赛才刚刚拉开帷幕,无论各方如何纠结于监管问题,都不敢轻易停下脚步,毕竟一旦落后,就将输掉整个数字时代的话语权。