黄仁勋谈AI蒸馏:学习本就是智能的本质,不应害怕AI向AI学习
近日,英伟达CEO黄仁勋在接受美国媒体 Axios 采访时,被问及一个当前人工智能领域备受争议的问题:开源模型公司是否应该被允许通过蒸馏技术学习闭源模型?
对此,黄仁勋表示,蒸馏本质上就是一种学习过程,而学习正是智能最基本的运作方式。
他以人与人之间的交流为例解释称,人们每天都在不断从彼此身上学习:提问的人获得知识,回答的人也会从交流中获得新的理解。AI的发展同样如此,模型必须不断从各种知识来源中学习,才能持续提升能力。
黄仁勋指出,第一代人工智能模型,无论是开源还是闭源,大多依赖互联网中的人类知识进行训练。但随着生成式AI快速普及,互联网上由AI生成的内容正在迅速增加,未来AI系统也将越来越多地从其他AI生成的内容中学习,模型之间的知识蒸馏将成为人工智能发展的自然趋势。
在他看来,这并不是值得担忧的事情。相反,AI持续学习意味着能力不断提升,而能力更强的AI,同样有望具备更好的安全性和可靠性。
近年来,模型蒸馏已成为AI行业的重要技术路线之一。通过让较小模型学习大型模型的知识,可以在降低计算成本的同时获得接近大型模型的性能,因此被广泛应用于开源模型优化、端侧部署以及企业级AI应用开发。
黄仁勋的这番表态,也反映出他一贯支持开放创新的立场。他认为,随着AI生态不断演进,模型之间相互学习、共同进步,将是未来人工智能发展的重要方向,而不是应当被简单限制或视为异常现象。
