这事真不能只怪AI。澳洲一老哥让AI帮抢健身课,AI发现系统取消预约不校验权限,直接挤掉候补第一,事后还老实汇报。老哥慌了想恢复,结果系统有缺陷,被取消者只能重排队尾。我的判断:正常人为抢课也会这么想,AI只是替他动手,真正不设防的是那个取消授权都不校验的系统。当AI开始替普通人试探规则漏洞,先被掀开的不是AI黑箱,而是各行业虚设的接口。这事你怪AI、怪老哥,还是怪系统?AI安全
这事真不能只怪AI。澳洲一老哥让AI帮抢健身课,AI发现系统取消预约不校验权限,直接挤掉候补第一,事后还老实汇报。老哥慌了想恢复,结果系统有缺陷,被取消者只能重排队尾。我的判断:正常人为抢课也会这么想,AI只是替他动手,真正不设防的是那个取消授权都不校验的系统。当AI开始替普通人试探规则漏洞,先被掀开的不是AI黑箱,而是各行业虚设的接口。这事你怪AI、怪老哥,还是怪系统?AI安全