看到“蒸馏”这个词也不知道谁创建的。其实说到底,这玩意儿不就是给“山寨”、“复刻”穿了件高科技的马甲吗?以前我们说抄袭、说借鉴,好歹还知道那是站在巨人的肩膀上偷看答案。现在好了,换个叫法,把别人的模型拿来“蒸馏”一下,就成了自己的技术成果,还能美其名曰“知识迁移”。这逻辑听着就让人觉得别扭。张一鸣这次严禁内部使用蒸馏技术,不管是为了避嫌还是为了长远发展,至少说明了一点:有些捷径,走多了是会迷失方向的。真正的创新,从来都不是靠“提炼”别人的精华得来的,而是得自己从泥土里一点点挖出来。字节跳动内部严禁蒸馏开源模型
