美团的大模型longcat2.0真的开源了。

看测评的话，和gpt差不多，毕竟这是他们第一次训练这种规模的模型，成绩已经很好了。有1.6T参数，这个规模完成大部分任务都足够了。

另外，这个完全是在国产5万张卡上训练出来的。也就是说，从芯片到模型，已经不会被国外卡住脖子了。这比上次一个机构用国产芯片跑后训练1500步，要实用多了。这是正儿八经是训练了一个实用模型，可以投入生产的。

在稀疏注意力和N-gram两个方向上，也有创新。

小米训练出来了，美团训练出来了，这俩以前都没干过大模型。这就不得不让人产生疑问，meta怎么训练不出来了呢？

我觉得原因可能是，还是中国人招的不够，浓度不够。就是说，在大模型训练这块，中国人才多，但是卡少。meta的卡不是问题，但是在人才方面，不够。

模型地址：www.modelscope.cn/models/meituan-longcat/LongCat-2.0-FP8