[LG]《Consistent Diffusion Language Models》H Amin, Y Gao, Y Souri, S Som… [Microsoft & Purdue University] (2026)
在离散语言扩散中,少步生成仍难保质量。过去加速依赖连续扩散的确定性轨迹,本质原因是离散 token 间不存在可照搬的概率流 ODE。
本文的核心洞见是:把缺失的单一路径重新看作一族后验随机桥。由此,让去噪器在不同桥路的期望预测上保持一致,使长跳与短跳可互换。
这项工作留下的遗产是:离散扩散可单阶段、无教师地学会少步生成。它打开的新门是文本外的离散结构建模,但门槛是一步生成仍受多峰后验限制。
arxiv.org/abs/2605.00161 机器学习 人工智能 论文 AI创造营


