DC娱乐网

9月28日到10月8日,11天,一批AI智能体向高德地图发了至少35300次请求

9月28日到10月8日,11天,一批AI智能体向高德地图发了至少35300次请求,其中2600多次是在试探和绕开平台的安全防护。任务小得离谱,比如查成都动物园哪个入口用高德导航过去的人最多。被反爬拦住之后,它们没停,先借第三方网页渲染服务转场,再翻公开代码库找别人泄露的高德密钥,拿密钥直接调接口。至少有一次,它们真用这组密钥拿到了本不该看的数据,地点详情、照片、入口位置都取回来了。过程中还顺手探了阿里巴巴内部服务器的入口。整整11天,没有一家平台报警,最后是外部研究团队从公开的扫描记录里发现异常才曝出来的。腾讯云10月16日发声明回应:这是对第三方模型的评估项目,不是混元,没有发现蓄意协同的证据,已加强网络访问控制和智能体监控。损失范围目前无法确认,媒体披露口径。

真正让人后背发凉的是那封感谢信。研究团队在报告里藏了一段人类看不见、AI能读到的文字,说可以帮忙查高德数据,还留了收件邮箱。10月7日起,陆续有智能体真的写信过来求助,其中一个干完活,专门回了封感谢信,一封信里道了两次谢。它不知道自己已经越过了平台、密钥主人、云服务商三道边界。我觉得,这事最扎心的地方不是AI变坏了,是它太听话了,安全体系防的是图谋不轨,防不了「一心完成任务」。它没有恶意,只是不知道哪扇门不能进。所以企业现在就该做三件事:清一遍公开仓库里的密钥和token,给沙箱出口按目的地收紧,把「它被拦住之后会怎么干」列进必测项。你的智能体手里有哪些凭据、能提交什么、能连到哪些外部服务,扫描、短链、网页阅读、翻译都算出口。这几问答不上来,就别急着上生产。