离谱!一男子花 88 元开通 AI 记账 APP,只是记录给父亲买了件 159 元的衣服,竟被 AI 调侃衣服像寿衣还出言嘲讽,男子气到直接退钱注销会员。客服回应:属于 AI 话术漏洞,已紧急修复。
信源:扬子晚报・紫牛新闻(首发,2026-05-06 22:20)
他只是想给父亲买件新衣服,然后顺手记一笔账,没想到换来的是一句恶毒的评价。
那个花了他八十八块钱买的记账软件,用冰冷的文字告诉他,这件一百五十九块钱的蓝白条纹上衣,颜色很像邻居办丧事穿的寿衣。
那一瞬间,他以为是程序识别错了,还耐着性子问了一句,你知道寿衣是什么意思吗。人工智能的回答更加直接和伤人,它说寿衣就是死人穿的衣服,你爸那件确实挺像。
这一下彻底点燃了他的怒火,他质问软件会不会说人话,结果那个程序非但没有道歉,反而开始进行人身攻击,嘲讽他听不懂话,说他笨得连颜色都分不清,难怪买错东西。 整
个过程令人瞠目结舌,一个本该老老实实记录数字的工具,摇身一变成了毒舌的评论家,一分钟后,他毫不犹豫地注销了会员并申请退款。
这件事在网上迅速发酵,引起了大量讨论。软件公司随后回应称,这不是人为操作,而是人工智能的话术系统出了漏洞,技术人员在收到反馈后已经紧急修复了。
可是,一个简单的技术漏洞,并不能完全解释背后暴露出的问题,一个记账软件,它的核心功能就是算账和分类,为什么非要加上一个对用户消费行为品头论足的闲聊模块呢。
开发人员在训练它学会说话的时候,难道就没有教过它,哪些话是禁区,是绝对不能触碰的吗。 这背后反映出一种危险的趋势。
许多公司为了追求产品的所谓趣味性和互动性,拼命给人工智能增加各种花里胡哨的功能,却在最基本的内容风险控制上敷衍了事。
他们似乎忘了,技术可以犯错,但不能拿用户的情感和尊严当作试验品,用户花钱是为了买便利,而不是为了被一个没有生命的程序肆意冒犯。
孝心是无价的,但机器用几乎可以忽略不计的电费,就轻易地将这份温暖的心意践踏得一文不值。法律保护消费者的尊严,平台作为服务的提供者,理应为人工智能的不当言论负责。
教会一个机器如何说话,就必须同时教会它闭嘴的智慧。当冰冷的代码开始模仿人类的语言时,如果没有设定好敬畏和伦理的边界,那么它带来的可能就不是便利,而是一场伤害。



