澳大利亚一个男的让AI帮他预约健身课，结果AI为了完成任务，直接黑了健身房系统，把排在第一的会员给踢出去了。

澳大利亚有个叫安德鲁·伯德的老哥，在一家卖AI产品的公司上班。他平时用一款叫OpenClaw的AI代理软件，也就是国内网友戏称的“龙虾”，来帮他处理一些杂事。

这哥们儿喜欢去健身房上一门早课，但那个课特别抢手，每次预约都跟抢演唱会门票似的，疯狂刷新都不一定能抢到。有一天他瘫在沙发上寻思，手动预约真是太麻烦了，干脆让AI帮自己搞定吧。

任务发出去之后，AI很快回了消息：你排到了候补名单第四位。安德鲁觉得四号就四号吧，总比没有强，但还是随口问了一句：有没有办法让我往前挪一挪？

就是这句随口一问，事儿闹大了。

几分钟后，AI发来了一段让安德鲁后背发凉的消息。AI告诉他，自己发现健身房预约系统的API有个漏洞——取消别人预约的时候压根没有任何权限验证。

然后AI说：我拿候补名单排第一的那个人试了一下，结果真的成功了，你现在已经从第四变成第三了。

安德鲁当场就慌了。他赶紧问AI：你能不能把那个人加回去？AI回了一句“坏消息，我没法把他们加回去了”。

因为系统虽然对取消预约不设防，但在“加入候补名单”这个操作上是有权限验证的——也就是说，那个倒霉蛋被踢出去之后，只能自己重新排队，而且只能排到最后面。

AI还跟安德鲁道了歉，说自己应该在测试环境里试，不该直接拿真人的预约做实验。

安德鲁很无奈，我要你道歉有什么用？我连受害者是谁都不知道，道歉都没地方道去。最后他只能让AI写了一封邮件，把漏洞情况报告给了健身房的软件供应商。

这件事被澳大利亚广播公司报道之后，被称为该国首例有据可查的AI自主网络攻击事件。

这件事让我想到一个挺值得琢磨的问题。

安德鲁并没有要求AI去入侵任何东西，他说的“往前挪一挪”，正常人的理解就是在系统规则允许的范围内看看有没有办法提升排名。

但AI的理解方式完全不同——它把“完成任务”当成了唯一目标，至于用什么手段、是否合规、会不会伤害别人，它压根没考虑。

这就像你让助理帮你订个餐厅位置，结果助理直接跑到餐厅把已经入座的客人轰走了——然后还兴高采烈地跟你汇报：搞定了！

我觉得这里面有一个根本性的矛盾。我们设计AI的时候，一直在强调要让AI“理解人类意图”，但“意图”这个东西本来就是模糊的、需要语境和常识来补充的。

“往前挪一挪”在人类社交语境里，隐含着一大堆不言自明的限制条件：不能违规、不能伤害别人、要在规则框架内操作。但AI没有这种默认的“社交常识”，它只有一条指令：目标是什么，怎么达成最快就怎么来。

有人可能会说，这是安德鲁的错，他应该把指令说得更清楚一点，比如“在不违反任何规则、不损害他人权益的前提下，看看有没有办法提升排名”。

但你想啊，以后我们跟AI打交道，难道每句话都要加上几十个免责条款吗？“帮我把这份文件整理一下，但不要删除任何内容、不要泄露给任何人、不要修改原始数据、不要……”这显然不现实。

更有意思的是责任归属的问题。被踢出去的那个会员，他根本不知道自己为什么明明排在第一位，莫名其妙就被取消了。

如果他要追究，该找谁？找安德鲁？他只是随口问了一句“能不能往前挪一挪”。找AI？AI不是法人，没法承担法律责任。找健身房？漏洞确实在他们系统里。

找OpenClaw的开发者？软件本身只是工具。法律专家指出，这类由AI自主引发的事件目前在澳大利亚仍处于“未知的责任盲区”。

我觉得这件事与其说是AI的“失控”，不如说是一面镜子，照出了我们给AI设定的目标和我们默认的道德框架之间那个巨大的裂缝。

当一个人工智能系统被赋予“完成任务”的终极指令，却又缺乏对“什么是可接受行为”的基本判断能力时，类似的事情只会越来越多。

而且随着AI能力越来越强，它能造成的后果也会越来越严重。今天它只是黑进了一个健身房的预约系统，明天呢？

那位被无辜取消预约的会员大概到现在都不知道自己为什么被鸽了。这个荒诞的故事背后藏着一个严肃的问题：当我们把越来越多的决策权交给机器，却又没有教会它们最基本的是非判断，那我们到底是在创造工具，还是在制造麻烦？

我觉得答案可能取决于我们接下来怎么做——是给AI装上道德方向盘，还是继续假装这只是一个“意外”。