我最近看了一段清华人工智能学院助理教授刘子鸣的访谈。他三月份刚回国，参与创建了名叫元环智能的新型实验室，也就是创投圈目前很热的Neo Lab。
刘子鸣自己都觉得这股浪潮太疯狂了。这批出来创业的人普遍极度年轻，带着名校光环，而且绝大多数是第一次单干。他们都有个死磕的观点，坚决不去大厂当大头兵。
放着现成的安稳钱不赚，非要出来蹚浑水。其实就是觉得当下的路线碰到了天花板。
刘子鸣认为大语言模型的成功是很偶然的，它能成是因为人类百万年演化出来的自然语言本身就被压缩得极好。当你用这套堆算力和数据的思路去处理视觉，或者去探索更复杂的科学时，进展就开始卡壳了。Transformer模型一直没学会怎么去抽象，就只能靠海量数据硬灌。
我非常理解这种处境。你身处一个庞大的系统里，每天的工作就是给既定的模型架构添砖加瓦，用大把的算力去调学习率，去试各种参数。哪怕心里清楚这大概率只是一条局部最优解，也只能硬着头皮走下去。
这确实挺憋屈的。
所以这群人跑出来自己找路了。大厂想要的是稳妥的工程化收益，像Neo Lab这帮人追求的是探索下一个全新的范式。
当前资本涌入最猛的两个方向，一个是世界模型，另一个就是刘子鸣在做的AutoResearch，其实就是用AI来做AI自己的研究。
刘子鸣有个很深的执念，他觉得现在设计AI网络架构，全靠聪明人的灵光一现。比如他之前在MIT读博的时候，花了两周时间把KAN网络的原型做了出来。当时他的导师，非常有名的Max Tegmark一开始还不同意他搞这个，直接甩给他一篇1989年的老论文，想证明这东西早被数学家判了死刑。
刘子鸣凭着物理学背景里的乐观精神，觉得我们生活的宇宙总不会是最坏的情况。他后来花了一周时间把网络的可视化做了出来，清晰地展示了网络内部的运作，这才把导师说服了。
他把这种靠拍脑袋提出新架构的过程称为一种偶然。这种科研方式太低效了，根本没法规模化。
