谈大模型的幻觉性问题！ 大语言模型不是百分之百完善，它也存在不足，那就是大模型的幻觉性。通常也被称为“幻觉”或“虚构”问题，是指大语言模型在生成文本时，可能会产生与事实不符、无中生有或逻辑不合理的内容，就好像产生了“幻觉”一样。一般用非幻觉率大小表示！ 当让大模型讲述牛顿发现万有引力的故事时，它可能会虚构出牛顿是在与朋友吃饭时突然看到苹果从树上掉下来从而发现万有引力，而忽略了牛顿实际上是经过长期的研究和思考，在多种因素综合下才提出万有引力定律的事实，这也是一种幻觉表现，即无根据的生成了与事实不符的内容。 当询问大模型“爱因斯坦在相对论中提出的质能公式是什么”时，正常情况下应该回答“E=mc²”。但如果大模型出现幻觉，可能会回答出诸如“E=mc³”或者“E=2mc²”等错误的公式，这就是大模型在事实性知识方面产生了幻觉，提供了与真实情况不符的内容。
谈大模型的幻觉性问题！ 大语言模型不是百分之百完善，它也存在不足，那就是大模型
咏棣评这个好的情感
2025-02-17 22:31:18
0
阅读：0
