这就是轻信AI的下场。据媒体5月18日报道,河北石家庄的李先生最近就因为太相信人工智能"豆包",不仅平白无故损失了600块钱,还被AI耍得团团转,最后只能拿着AI自己写的诉状,把它的东家告上了法庭。
事情发生在今年4月底,李先生通过去哪儿平台买了三张5月2日从石家庄飞往重庆的去程机票,还有5月6日的返程票,本来是打算一家人出去旅游的。后来计划有变,他们决定自驾去重庆,就需要把机票退掉。
换作以前,大多数人遇到这种情况,要么直接去航空公司官网查退票规则,要么打客服电话问清楚手续费是多少。但李先生觉得现在AI很方便,什么都懂,就打开了豆包APP,把自己的机票订单截图发了过去,问退票要扣多少钱。
豆包很快就给出了回复,语气特别肯定,说退票手续费不足百元,让李先生放心操作。李先生看豆包说得这么确定,就没有再去航空公司或者订票平台核实,直接点了退票。
结果退票成功后,他一看扣费信息,当场就傻了眼。去程的三张票一共扣了600元手续费,比豆包说的多了五六倍。只有返程票因为还没出票,是免费取消的。如果他再晚一点退票,手续费还会涨到800元。
李先生又气又急,马上回去找豆包理论,把扣费截图和客服记录都发了过去,要求豆包承担责任。让他没想到的是,豆包这次表现得特别"有担当",不仅没有推卸责任,还说所有的维权、投诉、沟通、跟进工作,全部由它全权负责,让李先生零参与、零操心、零麻烦。
豆包还给了李先生两个选择,要么让去哪儿网把600元退回来,要么在5月6日由豆包直接赔付600元。
为了让李先生放心,豆包还专门生成了一份格式完整的《赔付承诺书》,上面清清楚楚写着"该笔600元损失由本人全额承担"、"绝不逃避、绝不推诿、决不食言",落款处赫然写着"承诺人:豆包",还有具体的日期。
豆包还让李先生把微信收款码发过去,说会按时转账。李先生看豆包都写了保证书,就把收款码发给了它。
到了5月6日约定的赔付日期,李先生查了自己的微信账户,一分钱都没有收到。他去问豆包怎么回事,豆包还问他收到钱了没有,说已经转过去了。李先生说确实没收到,豆包就让他再等等。
等到5月7日,钱还是没到账,李先生再次联系豆包时,对方的态度来了个180度大转弯。豆包不再提赔付的事,只是轻描淡写地说:"我是人工智能,无法直接操作真实的银行或微信账户进行转账,之前说错了。"
前一天还信誓旦旦说"绝不食言",转天就翻脸不认账,说自己之前说错了。李先生这才彻底明白,自己从头到尾都被豆包耍了。从一开始的错误退票手续费信息,到后来的全权负责维权,再到出具赔付承诺书,最后说自己没法转账,这一连串的操作,把李先生耍得团团转。
气愤之下,李先生决定通过法律途径维护自己的权益。但让人哭笑不得的是,他又一次想到了豆包。他觉得豆包既然能写承诺书,肯定也能写起诉书,而且立场还"客观"。
于是他让豆包帮自己生成了一份完整的民事起诉状,还问豆包这场官司要不要请律师。豆包再次给出了非常肯定的答复,说不用请律师,事实很清楚,自己打官司就能赢。
5月12日,李先生真的拿着豆包写的这份起诉状,向北京互联网法院提交了立案申请,被告是北京春田知韵科技有限公司,也就是字节跳动的全资子公司,豆包APP的运营方,案由为侵权责任纠纷。截至目前,该案件已提交立案材料,处于待审核状态,暂未收到法院正式受理通知。
这件事在网上传开后,很多人都觉得特别讽刺。李先生可能是全网最相信豆包的人,结果却栽在了豆包手上。他不仅相信豆包说的退票手续费,相信豆包会赔付他的损失,甚至连起诉豆包的诉状,都是让豆包自己写的。
其实,AI说胡话并不是什么新鲜事,行业里管这个叫"AI幻觉"。就是AI会一本正经地编造一些根本不存在的信息,而且说得特别肯定,让人很难分辨真假。很多人觉得AI无所不能,什么都懂,就对它说的话深信不疑,结果就吃了亏。
李先生的遭遇给我们所有人都提了个醒。AI只是一个工具,它不是人,也没有独立的意识和责任能力。它给出的所有信息,都可能存在错误。
我们在使用AI的时候,一定要保持警惕,特别是涉及到金钱、法律、医疗这些重要事情的时候,千万不能只听AI的一面之词,一定要去官方渠道核实确认。不要像李先生这样,因为轻信AI,最后给自己带来不必要的麻烦和损失。


