学习专家警告：不要相信人工智能炒作

作者：劳雷恩兰格罗Lauraine Langreo— 2024 年8月7日5分钟阅读

生成式人工智能可以节省教育工作者的时间，帮助个性化学习，并有可能缩小成就差距。这就是人工智能专家在谈论该技术改变教育的潜力时所说的。

但并非所有人都同意。EdWeek研究中心在春季进行的一项调查显示，许多教育工作者对这项技术持怀疑态度。

现实情况是，人工智能有其局限性。例如，它可能会根据错误数据产生不准确或有偏见的响应。许多学区和州已经制定或正在制定如何将人工智能融入教育的指导方针，考虑到人工智能并不是一个完美的工具。洛杉矶学区甚至成为了在 K-12 教育中利用人工智能的警示故事。

智库认知共振的创始人兼首席执行官本杰明·莱利认为，学校不必因为技术的存在而屈服于炒作。（莱利之前是Deans for Impact的创始人，这是一家致力于改善教师培训的非营利组织。）

认知共振于 8 月7日发布了第一份报告，题为“生成式人工智能的教育危害”。

在接受《教育周刊》电话采访时，莱利讨论了该报告以及他对在教育领域使用人工智能的担忧。

为了简洁和清晰起见，对采访进行了编辑。

你能解释一下为什么你认为人工智能是人类历史上最重要的技术发展这一说法并不准确吗？

回到大型语言模型的真正含义，这很好。它是一种预测设备。它接收您输入的文本，并预测应该输出什么文本。它这样做的方式纯粹是通过单词关联之间的统计相关性。作为一项技术，它的非凡之处在于，我们现在拥有的流程和能力让人感觉超级对话。感觉就像你可以和它谈论任何事情，从某种意义上说，你可以。它可以对你输入的文本做出无限的回应。但它能做的也仅此而已。

这不是思考。这不是推理。它无法理解你有思想、有生活、有想法，你可能会有误解。它不理解或没有能力做到这一切。计算机是一件大事。人工智能会与计算机一起成为我们社会的发展吗？我不知道，但我肯定不认为我们现在处于这样一个阶段，即这种工具，正如今天存在的工具，在社会影响方面甚至无法与火或印刷机相提并论。

您对人工智能在教育领域的应用最大的担忧是什么？

我最推荐的是使用 [AI 工具]来辅导孩子。它们绝对不会有效，实际上可能有害。我们已经开始获得一些这方面的经验证据。沃顿商学院的一些研究人员最近发表了一项随机对照试验的研究，研究结果表明，使用 ChatGPT 的高中数学学生比研究期间没有使用ChatGPT的同龄人学习得更少。这是完全可以预见的，因为该工具的作用是自动完成认知。事实上，当你依靠它来完成工作时，这意味着你不需要费力思考，这意味着你学到的东西更少。

目前，人工智能教育炒作让我特别沮丧的一件事是，在其他方面，我们开始看到技术对社会凝聚力和团结产生了真正的危害。我们的政治两极分化。许多国家的民主都面临危险。我认为，所有这些都是相互关联的。我们开始模糊地意识到这一点，然而，现在出现了一种工具，它只会给社会的技术之火上添油加火。人们真的需要停下来思考这个问题。最让我沮丧的是，人们只是说，“哦，这是不可避免的，所以我们必须加入。”事实绝非如此。我们可以做出选择。

人们说人工智能代表着未来，学生们会在自己的职业生涯中用到它，所以我们需要教他们如何使用它。你同意这个观点吗？

有几种方法可以考虑这个问题。现在的学校系统有多少是面向教孩子们如何使用计算机的？这真的是我们在教育系统中花费大量时间关注的事情吗？我想说，没有。孩子们在学校使用电脑吗？是的。他们可能会使用计算机实验室吗？当然。有计算机科学课程吗？是的，但只有少数人上这些课。这项技术只是我们生活的一部分。作为一项技术发展，计算机的发明无疑是巨大的，但它并没有真正改变我们的许多教育实践。所以我不确定为什么我们需要假设人工智能应该受到不同的对待。

您认为学校可以将生成式人工智能用于哪些方面？

一旦你理解了生成式人工智能的局限性，你就可以以减轻可能造成的危害和伤害的方式使用它。一旦你明白它只是一个统计的、下一个单词预测引擎，你就不会把它给你的指导视为神圣不可侵犯的，也不会把它看作是一个知识渊博的搜索引擎，它会深入思考你的问题并给出最好的答案。

因此，一位老师说：“给我一份本周五的教学计划，关于这个主题，60 分钟。”这个答案中可能仍有一些内容存在问题，但老师有他们的智慧。他们有自己的知识和经验，他们可以查看该教学计划，然后决定他们想使用多少或不使用多少。这很好。我对此没有异议。

我知道的另一个领域是积极的，而且考虑到技术的性质，它很有意义，那就是为英语学习者创建材料。这发挥了这些模型的强项。它们是语言模型。所以如果你需要的是语言之间的翻译，它们在这方面做得很好。

许多专家呼吁学校加强对人工智能的了解。您认为这很重要吗？

这取决于你对人工智能素养的定义。目前有很多人声称自己在努力提高人工智能素养，他们本质上是在试图教你如何使用工具，如何写出好的提示。但这并不是我所说的人工智能素养。

我希望人们能够批判性地思考这项技术。在操作层面：它是如何做到的，为什么你不能相信它会说出我们人类认为正确的事情。它涉及很多道德问题：生产它需要付出的环境成本，它复制社会中存在的偏见的方式。

我想[强调]更好地理解我们人类如何思考和相互学习，提升这一点，并努力培养人工智能素养。

劳拉·兰格雷奥

跟随

教育周刊特约撰稿人

Lauraine Langreo 是《教育周刊》的特约撰稿人，主要负责报道教育技术和学习环境。