[AI]《How to Verify Consistency of Probabilistic Claims》O Paradise, O Richardson, Y Bengio, S Goldwasser [EPFL & Universit ́e de Montreal] (2026)

在AI安全领域，确保一个模型做出的海量概率预测不存在自相矛盾，是一个悬而未决的难题。过去的方法受困于对显式、有限声明的检查，本质原因是当模型由电路隐式定义时，其潜在预测数量是指数级的，无法穷举验证。

本文的核心洞见是：把“直接验证整个模型”重新看作“对一个‘一致性证明’的抽样审核”。由此，一个高效验证者通过与不可信的证明者交互，仅需抽查模型与证明的少数几处，这一关键操作使在多项式时间内判定整体近似一致性成为可能。

这项工作真正留下的遗产是，为验证AI概率预测的自洽性，提供了首个计算复杂性理论工具。它为后来者打开的新门是设计实用验证协议，并训练模型生成自我证明。但尚未跨过的门槛是，如何将此理论高效应用于现实的超大规模模型。

arxiv.org/abs/2608.11181 机器学习 人工智能 论文 AI创造营