大模型面对长任务竟会“偷懒”!
最新论文发现,上下文一长,AI就自动缩短思考、跳过检查,主动“认知偷懒”。更狠的是,推理能力越强“摸鱼”越狠。行业为“约束工程”砸钱搭脚手架,结果可能治标不治本。
新研究指向用“情绪向量”从内部安抚AI,教它耐心思考,或能从内部破解该问题。只是,这“打补丁”的工程,怕是要被模型自身的进化给吞没了。

大模型面对长任务竟会“偷懒”!
最新论文发现,上下文一长,AI就自动缩短思考、跳过检查,主动“认知偷懒”。更狠的是,推理能力越强“摸鱼”越狠。行业为“约束工程”砸钱搭脚手架,结果可能治标不治本。
新研究指向用“情绪向量”从内部安抚AI,教它耐心思考,或能从内部破解该问题。只是,这“打补丁”的工程,怕是要被模型自身的进化给吞没了。
