大模型真的"理解"语言吗?这个问题远比我们想象中复杂。
图灵测试曾被视为智能的金标准,但它有个致命缺陷:通过测试只证明机器能"骗过"人类判断,并不等于它真正理解了语义。就像一个记忆力超群的人背下了全部莎士比亚,却从未感受过爱情的悸动。
塞尔的中文房间思想实验说得更透彻:一个不懂中文的人坐在房间里,靠着规则手册完美回答所有中文问题,外面的人以为他懂中文——可他真的懂吗?大模型本质上就是那个房间。它处理的是符号的统计分布,而非意义的因果链。
但这不意味着大模型一无是处。它在模式识别上的能力确实惊人——翻译、摘要、代码生成都达到了实用水平。问题的关键在于:统计相关性不等于因果推理,流畅表达不等于深层理解。
我认为,与其纠结"是否真正理解",不如问:我们到底需要哪种层次的"理解"?这个区分,才是AGI讨论的真正起点。