DC娱乐网

字节不准内部蒸馏,不是因为道德高尚,是因为他们有不需要蒸馏的底气。字节每天从抖音

字节不准内部蒸馏,不是因为道德高尚,是因为他们有不需要蒸馏的底气。

字节每天从抖音、头条、西瓜视频里长出来的数据量和数据多样性,是任何开源模型训练集都覆盖不到的。蒸馏别人的模型本质上是承认自己的数据飞轮转得不够快。字节内部这纸禁令翻译成人话就是:我们自己产的数据就够喂的了,别去舔别人碗里的。

真正有意思的是这条禁令暴露了一个行业的潜台词:大部分AI公司嘴上说自研,实际都在偷偷蒸馏。禁令之所以能成为新闻,恰恰证明了不蒸馏才是少数派。