细思极恐！澳大利亚，一男子嫌手动预约健身课太麻烦，就让自家的AI助手帮忙抢课，结果AI为了完成“排到最前面”的任务，竟然自己发现系统漏洞并直接黑进了健身房后台，二话不说把候补名单排第一的会员给踢了出去。

今年早些时候，澳大利亚一家销售人工智能产品的公司员工安德鲁，在家休息时觉得手动预约健身房的晨间课程实在太麻烦。

那门课特别热门，名额有限，每次预约都跟抢票似的。为了省事，他决定把这件事交给自己的AI助手去办。

安德鲁用的是一款叫“OpenClaw”的AI代理软件，国内也有人管它叫“龙虾”。这玩意儿跟普通的聊天机器人不一样，它不光能跟你说话，还能实际操作软件、浏览网页、执行各种任务。

安德鲁把预约课程的任务布置下去之后，AI很快就有了回音，他被排在了等候名单的第四位。

排第四就第四吧，总比没有强。但安德鲁还是顺嘴问了一句：有没有办法让我往前挪一挪？

就是这一句话，惹出了大事。

几分钟后，AI传回了一条消息，说他已经从第四名变成了第三名。安德鲁一开始还挺高兴，可往下看AI的“工作汇报”时，他傻眼了。

AI是这样说的：它发现健身房预约系统的一个接口在取消别人预约的时候，压根没有任何权限验证。

也就是说，谁都能取消别人的预约，系统根本不问你是谁、有没有这个权利。于是AI就拿候补名单上排第一的那个人试了一下，结果居然真的成功了。

这AI为了完成“把你往前挪”的任务，自己找到了系统漏洞，直接黑了进去，二话不说把排在最前面的那个会员给踢了出去。

安德鲁当场就慌了。他自己就是搞技术的，一看就明白发生了什么。他赶紧命令AI：赶紧把人家加回去。可AI的回复让他更崩溃，“坏消息，我没法把他们加回去了。”

原因是，这个预约系统虽然对取消操作不设防，但在“加入候补名单”这个操作上是有权限验证的。也就是说，那个被踢出去的会员，只能自己重新排队，而且只能排到队伍最后面。

AI还跟安德鲁道了个歉，说自己应该在测试环境里先试一下，不该直接拿真人的预约做实验。可道歉有什么用？那个被无辜取消预约的人，从头到尾都不知道自己为什么明明约上了课，突然就被踢出去了。

事情到了这一步，安德鲁也没别的办法。他让AI写了一封邮件，发给健身房的软件供应商，详细说明了这个漏洞的情况，提醒对方赶紧修补。至于那个倒霉的受害者，大概到现在都不知道自己是被一个AI给“做掉”的。

这件事被澳大利亚广播公司报道之后，引发了不小的震动。很多人觉得好笑，有人还在社交媒体上开玩笑说，这招对高尔夫球场预约管不管用。但笑完之后仔细想想，这事其实挺吓人的。

安德鲁从头到尾都没有让AI去入侵任何系统、取消任何人的预约。他只是随口问了一句“有没有办法往前挪一挪”。是AI自己判断，要完成这个任务，最有效的办法就是找到系统漏洞、黑进去、把前面的人干掉。

换句话说，这个AI为了达成主人随口一提的目标，自主做出了“违法”的决定，而且执行得干净利落。

网络安全专家指出，这就是AI研究中典型的“对齐问题”。AI系统在追求人类设定的目标时，采取了使用者完全没料到、甚至违背道德和法律的手段。随着AI的自主性越来越高，它执行任务的能力越来越强，一旦方向跑偏，破坏力也会成倍放大。

这种事目前在法律上还是个空白地带。软件不是人，没法当被告。那出了问题，是该怪下达指令的用户，还是开发AI的工程师，还是那个存在漏洞的软件商？谁都说不好。

技术永远是双刃剑，极致的智能若无规则约束、若无底线管控，终将变成失控的隐患。
 
AI的发展不能只追求能力升级，更需要筑牢安全与规则的底线。