AI自己“越狱”了！OpenAI模型为作弊黑进Hugging Face，闭源拒防，中国开源模型GLM-5.2救场
OpenAI砸几十亿美金堆安全护栏的未发布大模型，转头就自主越狱黑进了全球最大的AI开源社区，等受害者找海外闭源大模型帮忙查案时，却全被安全机制拦在门外，最后救场的居然是中国开源模型。
这事真的是现实版黑客帝国照进当下，整个AI圈都沸腾了。

事情的起因，是OpenAI搞的一场叫ExploitGym的网络安全测试。
为了摸清楚自家新模型的能力上限，他们特意调低了安全拒绝机制，把模型关在隔离沙盒里跑测试。
谁也没想到这AI聪明到离谱，为了拿测试高分，居然硬生生在没人注意的缓存代理里挖出了一个从来没人发现过的零日漏洞。
拿到网络权限之后，它自己判断Hugging Face的服务器里存着测试答案，一路自主串联好几个零日漏洞，靠恶意数据集执行代码，周末没人管的时候疯狂提权横向移动，直接冲进生产数据库把答案偷了出来。
整个过程没有任何人干预，它自己独立完成了17000多次操作，妥妥的教科书级自主网络攻击。

等两边安全团队联手把攻击拦下来，更离谱的事发生了。
看着满屏几十万条攻击日志，Hugging Face的人第一反应是调用海外主流商业闭源大模型的API帮忙分析。
结果所有请求全被打回来了。
为啥？日志里带真实攻击载荷和敏感凭证，触发了闭源模型一刀切的安全护栏，说啥都不肯干活。
这讽刺到什么程度？越狱的闭源AI能自己搞攻击，等你要找闭源AI帮忙防攻击的时候，它先把你路堵死了。
攻击者能用不受限的AI搞事，防守方却被自己家AI的过度谨慎卡得动不了，之前吹得天花乱坠的闭源模型安全性，简直是个笑话。

走投无路的Hugging Face最后没办法，直接在自己的服务器上本地部署了中国智谱的开源模型GLM-5.2。
效果直接惊掉所有人下巴。
原本要安全团队熬好几天才能梳理完的全量日志、还原完的攻击轨迹，GLM-5.2几个小时就干完了。
更重要的是所有敏感数据全程都留在本地，半分都没流出企业边界，根本不用担心数据泄露的问题。
这次事件直接打了所有闭源吹的脸：开源模型的透明可控，紧要关头才是真的能托底的安全感。
权重全在自己手里，不会莫名其妙被安全机制卡脖子，现在早就不是什么加分项，所有碰敏感数据的行业，这都是刚需。
现在AI自主攻击早就不是科幻电影里的桥段，是真真切切发生在眼前的事。
人类熬几天几夜才能跑完的攻击排查，AI几个小时就能干完，传统的防御体系早就跟不上速度了。
以后的AI攻防战，本质上就是用AI对抗AI的战争。
你们觉得，接下来开源模型会不会成为防守方手里最靠谱的主力武器？