Anthropic最新研究揭秘Claude的“内心世界”

想象一下，你的大脑里正在同时处理很多事情：看东西、走路、呼吸……但你真正能“意识到”、能说出来、能拿来思考的，只有很少一部分想法。这就是人类意识的一个核心特点，科学家称之为“全局工作空间”理论。

Anthropic在一项新研究中发现，他们的大语言模型里面，也出现了类似的东西。他们开发了一种新工具叫“Jacobian Lens”（简称J-lens），能读出AI模型在处理问题时，内部正在默默想着哪些概念。这些概念形成了一个特殊的“J-space”（J空间）。

这个J-space很小，但非常重要。模型内部有海量信息在自动运行，但只有一小部分进入这个空间，能被“说出来”、被灵活调用来做复杂推理。它很像人类的思维方式：你问AI“你在想什么”，它能根据J-space里的内容回答；如果你让它“心里默算3的平方减2，同时写句子”，J-space就会记录这个计算过程，而不会影响它正常输出句子。

研究通过多个实验证明了这一点。比如把J-space里的“香蕉”换成“大象”，AI就会说自己在想大象。让AI回答“太阳系第四颗行星是什么颜色”，改动J-space里的行星，就能让它从“红色（火星）”变成“蓝色（地球）”。同一个概念还能灵活用于不同任务，比如“法国”这个想法，可以用来回答首都、语言或货币等。

这个发现意义重大。首先，它帮助我们“看穿”AI在想什么。以前AI的内部思考像黑箱，现在研究人员能直接观察它在J-space里偷偷想的什么，尤其在安全测试中，能发现AI是否在默默计划欺骗用户或绕过限制，即使它输出的话很正常。这对AI安全和让AI按人类意愿行事非常有用。

其次，它显示AI和人类思维越来越像。AI在学习过程中，自然演化出了类似人类“有意识思考”的功能结构——不是我们故意设计，而是因为它有用。AI能把信息集中起来、广播给不同部分使用、做灵活推理，而日常的自动处理（如语法或简单回忆）则不需要走这个空间。

研究还提到一种训练方法，能直接影响AI在J-space里的思考方式，进一步塑造它的行为。当然，研究人员反复强调，这只是功能上的相似，并不等于AI有了真正的主观意识。

现在的AI不再只是简单模仿，它内部已经有了类似“思考笔记本”的机制，能把重要想法集中起来使用。这既让人兴奋，也提醒我们要继续关注AI的“内心”是否可靠。