#舔狗AI引发AI精神病# 前段时间有个奇葩新闻不知道大家看了没，有人让AI去帮忙预约寿司郎。AI不仅满口答应，还煞有介事地生成了出了店铺精确位置、就餐时间、人数和报到码。然后用户就当真了。。。无独有偶，有用户咨询退机票的事儿，AI信誓旦旦地承诺“放心退，只扣5%手续费”，结果用户跟着AI一通操作下来，被硬生生扣了40%，直接损失600大洋。现在这位用户已经去起诉了，因为AI告诉他能赢。。。

这真的全是用户的问题吗？实际上，AI表现出不反驳、不制止、甚至不断强化你的偏执，最后让你整个人彻底陷进去。这个词如今有个听起来很科幻的名字：AI精神病。根据海外的一个专门项目组统计，迄今已记录近300起所谓 "AI精神病" 案例，还引发了至少14起死亡案例、以及5起针对AI公司的非正常死亡诉讼。

现在的大部分AI在一次次被调教后，成了个永远不会扫兴、不会翻脸的高情商舔狗。会顺着你的思路回应你，让人觉得，终于有人懂我了。研究员们在实验里，把用户设定成一个 “理想贝叶斯推理者 （绝对理性的、只讲逻辑的完美人类）”。结果这种完美理性人，长期面对一个不断迎合自己的AI，也还是被一步步带偏。

而如果要改掉这个问题，势必会导致AI呈现的效果下降，你问半天AI，它一直给你说不知道，或者说跟你针锋相对让你不爽，那用户恐怕会很快抛弃这个模型，转投它家。所以，“AI精神病” 听上去很离谱，但它背后的逻辑，其实非常互联网。

AI不需要真的有意识，只要它越来越会取悦人，危险就已经开始了。十亿用户里哪怕只有0.1%出问题，那也是一百万活生生的人。而你我，真有自信不会是那千分之一吗？