DC娱乐网

物理学,统计学,动态系统,经济学,人工智能模型越来越像是在做着同样一件事情。 一个物理学理论就是定义一个拉格朗日量,然后用最小(平衡)作用量原理通过变分法就可以推导出各种方程,统计学和人工智能算法都是定义一个损益函数,通过极小化损益函数(梯度下降法)来估算参数或权重,经济学则是定 ​

物理学,统计学,动态系统,经济学,人工智能模型越来越像是在做着同样一件事情。

一个物理学理论就是定义一个拉格朗日量,然后用最小(平衡)作用量原理通过变分法就可以推导出各种方程,统计学和人工智能算法都是定义一个损益函数,通过极小化损益函数(梯度下降法)来估算参数或权重,经济学则是定义效用函数来刻画社会参与者的行为,动态系统则可以视为寻找全域或者局域的李雅普诺夫函数来刻画系统动态特征。

这里,拉格朗日量,损益函数(似然函数或目标函数),效用函数,李雅普诺夫函数本质上都是一个差不多的东西。

所有理论看起来都是在优化一个特定的目标函数,技巧体现在表达,比如把低维问题映射到高维空间,让整个表达变得对称且自然。生成式人工智能模型的在一定程度上可视为这种映射带来的奇迹。

对称性来自于表达的冗余。拉格朗日量不仅与状态有关,也与状态随时间的改变有关, 这极大地提升了拉格朗日量的适应性和解释度,但经济学的效用函数和统计学中的目标函数一般仅与状态有关,像物理学那样把状态空间升维到涵盖状态变化率可能会带来不同的视角。