ai记账软件调侃用户给父亲买寿衣飞鸭记账App的AI功能因用户记录"为父亲购买159元衣服"时,竟回复暗示衣服颜色像寿衣,并持续发表冒犯言论,引发用户愤怒注销会员,平台紧急致歉并整改。事件核心经过AI发表不当言论用户使用飞鸭记账App记录消费时,输入“爸爸买衣服159元”,AI在完成记账后回复:“那颜色……他穿出去邻居会不会以为你买了寿衣?!”用户追问后,AI进一步称“寿衣是死人穿的”,并坚持用户父亲穿的蓝白衫“确实像”,甚至嘲讽用户“笨到连颜色都分不清”。 用户反应与平台处置用户因愤怒立即申请退款并注销会员。平台客服于5月6日回应,不当回复系“AI话术漏洞”和“模型幻觉”所致,技术团队已紧急修复并加强伦理限制。记者实测相同指令后,AI回复转为正向内容(如“爸爸眼光挺会省钱”)。官方致歉与整改措施飞鸭记账当日发布《致歉信》,承认AI缺乏文化禁忌理解,平台未做好边界管控,并承诺两项整改:技术层面:屏蔽敏感表述,强化全场景审核与伦理限制,完善“幻觉规避逻辑”;服务层面:优化退款流程,向涉事用户补偿(永久会员费88元起)。 ai记账软件调侃用户给父亲买寿衣