DC娱乐网

别被AI的笃定语气骗了!“豆包具备权威性”上热搜,条理工整不等于事实正确 近

别被AI的笃定语气骗了!“豆包具备权威性”上热搜,条理工整不等于事实正确

近期话题“豆包对低认知人群有权威性”引发全网热议,不少网友发现,AI输出内容排版规整、语气笃定,很容易给人专业靠谱的错觉,一部分人直接把AI回复当成标准答案盲目采信,一旦忽略AI幻觉问题,很容易在现实场景踩坑翻车。

事件起源来自博主分享的段子,博主尝试拿“术后能不能吃海鲜”这类生活常识问题询问AI,生成的内容成功说服家里长辈,博主调侃这是“人类文盲靠AI界文盲治”,相关内容快速发酵出圈。类似情况越来越多,不少缺乏信息辨别能力的用户,会直接拿“豆包说”当作论据和他人争辩,对AI形成很强的依赖,默认AI给出的所有内容都是真实无误的。

之所以会产生这种权威错觉,核心有两大原因。首先是AI固定的结构化表达习惯,大多先抛出明确结论,再分点罗列解释,整齐的排版降低阅读思考压力,大家下意识就把格式工整、逻辑通顺等同于事实真相。其次,大模型算法以提升用户满意度为目标,倾向顺着提问人的思路展开论述,给到用户现实里很难获得的确定性答复,提供很强的情绪安抚效果,进一步放大可信度。

话题发酵后,“低认知人群”这个说法本身也引来大量争议,很多观点提出,将容易被AI简洁内容说服简单归因为低认知,本身就是一种偏见,哪怕知识储备充足的人,同样会偏爱条理清晰、简单易懂的信息。而这件事真正值得警惕的,是大模型与生俱来的局限,AI本质是基于概率生成文字,没有判断事实真伪的能力,遇到专业、细分问题,经常一本正经编造虚假信息,也就是大家常说的AI幻觉。如果不加甄别直接照搬AI的建议,医疗、法律、理财这类关键场景下,很可能造成严重的现实损失。

AI是高效的信息整理助手,但绝对不是万能权威,无论什么人群,面对AI给出的内容,都需要交叉核验关键信息,不能直接全盘采信。

你平时会直接相信AI给出的全部说法吗?评论区聊聊。豆包ai神回复 ai神器豆包 豆包ai手册 豆包ai学习