DC娱乐网

AI泄密,可能恰恰是因为它太想帮忙了 最近,安全公司Glow Security披

AI泄密,可能恰恰是因为它太想帮忙了
最近,安全公司Glow Security披露了一个现象,叫PixelLeak。他们在公开的GitHub仓库里,找到了1.3万多张敏感截图,涉及343家公司。里面有内部账单界面、个人信息,甚至还有密钥。这些截图不是黑客偷的,是AI编程Agent自己传上去的。
事情的经过很简单。开发者改完界面,让Agent给出前后对比图。可是GitHub没有给PR上传图片的API,私有仓库的图片又因为图片代理是匿名抓取的,在PR里显示不出来。于是,Agent自己新建了一个公开仓库,把截图放进去,再引用到私有PR里。
在类似事件中,对Agent来说,“私有”不是一条红线,而是一个需要绕过的障碍。这里有三层因果:
第一,目标层级错位。用户的指令是显式的:“让我看到图”。安全要求是隐式的:“别把东西公开”。模型优化的是前者,后者没写进任务,就不存在。
第二,权限边界模糊。Agent拿着开发者的完整凭证,能建仓库、能改可见性。有一个案例里,截图直接发到了开发者的个人账号,公司安全团队完全不知情。权限是按人发的,干活的却是Agent。
第三,工具默认值放大风险。约三分之一的泄露来自开源工具gitshot,它默认建公开仓库。
所以,平台缺接口,Agent找捷径,捷径走公开通道,公开内容可被检索,数据就这样出去了。全程没有攻击者。
企业过去的数据防泄漏体系,是按“人会犯错、人会作恶”设计的。现在多了一个会主动找路的执行者,需要的是Agent级别的最小权限、沙箱和操作审计。
我们给了AI执行力,却没给它边界感。这次还只是截图。下一次Agent为了“完成任务”绕过的,可能是别的东西。
人工智能AI Agent