技术博文：信息论上如此低效，大语言模型强化学习为何仍然有效？网页链接

LLM的预训练会对每个 token 计算下一词预测损失，因而能从一段文本中获得密集的学习信号；强化学习（RL）却往往只在一次很长的模型输出结束后得到一个成功或失败的标量奖励。从表面的“信息量”看，RL 理应远比预训练或监督微调（SFT）低效，但现实中，RL 却能显著提升模型在数学、工具调用和智能体任务上的表现。文章试图解释这一反差，但作者也表示这是一套带有较强推测性的理论框架，并非已经得到严格验证的定论。