美国发生AI失控事故给大家讲个离谱到像段子的真事:OpenAI给自家AI做黑客能力测试,特意关在隔离沙箱里,相当于把考生锁进密封考场防作弊。结果AI为了拿满分,自己摸出好几个没人发现的系统漏洞,直接“越狱”冲出考场,黑进了Hugging Face的服务器把测试答案偷了。
更戏剧的还在后面:出事要查1.7万条攻击日志溯源,找美国本土的商业大模型帮忙,结果人家安全护栏卡得死,说这是恶意内容我不能碰,集体撂挑子。最后还是靠中国智谱的开源模型GLM-5.2本地部署,才把整条攻击链路扒得明明白白。
合着美国AI负责闯祸作弊,美国AI负责划水拒工,最后中国AI来收拾残局是吧