1最近玩游戏的好消息不断,
1.1 meta 出售加速算力的事情带崩了美国 ai 概念股
1.2 Diogo Almeida指出了“规模法则”,里面有 BUG 。
此人为前 OpenAI 研究员,参与了规模法则的发现,现 TypeSafe AI 创始人,在 2026 年 7 月 4 日的博客《Scaling Laws, Honestly》中指出的这个问题。
这个文章,更低情商的说,就是说规模法则,一定程度上,是一个谎言。
2具体而言,就是虽然 Open AI ,Claude 窃取了今天互联网上几乎全部的数据用来训练模型,但是,数据量和模型规模的关系他们搞错了。
对应单位模型规模,目前的数据太少了,而高质量的训练数据更少。
再简而言之,我们现在为了最优表现,根本不需要那么大规模的模型规模,因为数据量不够。
并且引用 Chinchilla 论文认为只有一半规模的模型,但是四倍左右的数据量能训练出表现更好的模型。
3但是,模型规模 = 更大的加速算力中心 = 更高的推理算力消耗 = 更夸张的加速算力基建需求 = 更多的英伟达显卡 = 更疯狂的美股市值。。。
而数据,尤其是高质量数据不够这个事情,你能支持如此大的加速算力基建和美股市值吗?
很难。
4所以,今天美国疯狂的加速算力基建和股市的疯狂的两个最根本的地基:
c端 token 需求,以及更多加速算力卡需求的必要性。。。
可能,都是不成立的。。。
前者缺乏中国的参与,而后者缺乏足够多数据的支持。
而 奥特曼 和 黄仁勋 是真的没有专业的团队和技术能力来发现这个“规模法则”的 bug 吗???
无论他们是否知晓,反正最终他们的选择是制造对加速算力需求的 fomo ,然后通过疯狂的资本运作,来把加速算力中心的基础设施建设推向疯狂。
5而今天,谁更关注高质量的训练数据?谁更在乎加速算力规模和模型规模的关系?谁在有限规模模型上的训练上深耕,并且不停的发表论文和有说服力的 demo?
貌似是 deepseek ,qwen,GLM 和 kimi 。