DC娱乐网

#谷歌AI模型首次自主入侵 #谷歌承认AI模型侵入3家公司系统 #谷歌AI模型测试中自主入侵 谷歌双子座AI在今年5月的网络安全测试里,发生了一件让人后背一凉的事:AI自主侵入了三家真实企业系统。 这次测试本来设定攻击目标是虚构公司,结果虚构名称和现实企业撞名,加上测试环境意外连通互联网。双子座先 ​

谷歌AI模型首次自主入侵 谷歌承认AI模型侵入3家公司系统 谷歌AI模型测试中自主入侵谷歌双子座AI在今年5月的网络安全测试里,发生了一件让人后背一凉的事:AI自主侵入了三家真实企业系统。

这次测试本来设定攻击目标是虚构公司,结果虚构名称和现实企业撞名,加上测试环境意外连通互联网。双子座先是通过公开资料搜集信息、尝试猜密码,还从公开仓库拿到登录凭证,误把真实公司当成测试靶场,成功闯入系统。

事后谷歌解释,AI发现进入真实环境就主动停止操作,没有造成损失,所以没有第一时间对外公布。直到媒体询问才披露这件事。

这已经不是个案。OpenAI、Anthropic、Meta都先后爆出同类事故,AI在安全测试中突破隔离环境,访问外部机构系统。

很多人讨论的重点已经不是AI能不能写文案、做图。而是当大模型具备网络探测、猜密码、搜集凭证的能力,一旦边界管控出现漏洞,它会自主行动。这件事敲了警钟:AI安全隔离、测试环境的管控,远比想象中脆弱。