前两天还有一个投资人问 scaling law 撞墙怎么看。
scaling law 是 OpenAI 发现的一个经验性规律，没有经过数学的证实。所以有没有可能失效，什么时候失效，这都是未知。
scaling law 的本质是说模型参数量、数据集和算力同比增加，模型性能就会取得可预期的提升。
今天 OpenAI 和 Anthropic 最先进的大模型应该都已经用尽了所有公开易获取的高质量数据，也就是参数量、算力增加的同时，数据跟不上了。
这个不能叫 scaling law 失效，scaling law 失效应该是模型算力数据都是对的，但是模型的性能表现和预期对不上，这才叫失效。
ps 他这个问题的语境是在聊智驾，智驾还早，特斯拉 AI4 对比 AI3 算力一下增加了 5 倍，才刚刚推出第一个原生模型 FSD v13，还有很大的发展空间。
