DC娱乐网

[LG]《Quantization Damage Is Multiplicati

[LG]《Quantization Damage Is Multiplicative, Not Additive》Z Wu, S Dhiman, A Koshiyama [Holistic AI] (2026)

在模型量化领域,损伤的不可预测性是一个悬而未决的难题。过去的方法受困于将损伤视为固定大小的“加性噪声”,本质原因是这错误地暗示了高置信度决策是安全的,而现实中它们同样会失效。

本文的核心洞见是:把量化损伤重新看作决策裕度(margin)的“乘性收缩”,而非加性噪声。由此,直接测量裕度在量化前后按比例缩小的程度这一关键操作,使原本随机的决策翻转变得可以精确预测。

这项工作真正留下的遗产是一个可预测量化损伤的数学框架。它为后来者打开的新门是:通过少量配对测试即可低成本预判模型哪些能力会失效。但尚未跨过的门槛是,这套损伤规律的参数无法跨模型泛化,需对每个模型单独校准。

arxiv.org/abs/2608.06564 机器学习 人工智能 论文 AI创造营