DC娱乐网

早在四月,Cloud Security Alliance发布调查:超过一半受访组织遇到过AI Agent超出预期权限。几个月后,OpenAI又披露了一次内部测试——模型突破隔离环境,自己“摸”到了外部系统。 以前AI说错话,影响并不大;现在它要是拿着你的权限把事情做错了,麻烦可就大了。 说白了,AI越来越像一个能自己办事 ​

早在四月,Cloud Security Alliance发布调查:超过一半受访组织遇到过AI Agent超出预期权限。几个月后,OpenAI又披露了一次内部测试——模型突破隔离环境,自己“摸”到了外部系统。以前AI说错话,影响并不大;现在它要是拿着你的权限把事情做错了,麻烦可就大了。说白了,AI越来越像一个能自己办事的“员工”,那就不能只给它能力,不给它边界。钥匙既然是人递出去的,出了事就不能一句“AI自己干的”算了。AI