生成式人工智能应用于教育，还要历经多少关卡？

生成式人工智能（Generative Artificial Intelligence，简称生成式 AI）是 AI 的一种形式，可以生成从论文到视频等任何东西，协助人类处理信息和数据。生成式人工智能的引入，特别是 ChatGPT 等「大型语言模型」（LLM） 聊天机器人的引入，使得许多人预测这项新技术将改变现有的教育模式。

例如，比尔·盖茨（Bill Gates）在 2023 年 4 月预测，在 18 个月内，即到今年 10 月，生成式人工智能「将像任何人一样优秀」。可汗学院（Khan Academy）的创始人萨尔·汗（Sal Khan）也不甘示弱，他认为人工智能将「可能是教育史上最大的变革」，他的组织目前正在向学校推销以教育为重点的聊天机器人 Khanmigo。

不过，生成式人工智能从一开始在教育领域应用，就饱受质疑和争议。在大多人看来，只有人才能真正理解人是怎样进行思维活动的，人工智能说到底也只是一项技术，无法理解人类复杂的感情，更不要说充当「老师」的角色去教导学生。尽管生成式人工智能能够提供多个视角的想法拓宽人类想象的空间，但也面临着片面性、偏差性等问题。生成式人工智能想要在教育领域平稳落地，还需要经历实践与时间的双重检验。

01 人工智能准确性令人怀疑，可能导致教育适得其反

无论是 ChatGPT、Khanmigo 还是其他任何基于 LLM 的技术，目前都无法开发出任何接近于人类用户头脑中正在发生的强大心理理论的东西。这不符合技术的工作方式。相反，这些模型本质上是下一个单词预测引擎，这意味着在人工生成的文本提示之后，它们会运行一组复杂的统计算法来预测生成的文本作为输出。这通常感觉像是人类的对话，就好像机器背后有另一个头脑在运作，但这种感觉可能是欺骗性的。

Benjamin Riley 对此做了一个简单的测试。

如果一支钢笔和蜡笔加起来要 2.50 美元，而蜡笔的成本比钢笔低 2 美元，那么钢笔和蜡笔各要多少钱？我就不用费脑力了：如果 P = 钢笔的成本，那么蜡笔的成本是 （P-2），这意味着 P + （P-2） = 2.50 美元。

当他使用 Khanmigo 简化方程式时会发生什么呢？

聊天机器人响应的具体细节会有所不同，但这里有一个例子来说明它是如何进行的（Benjamin Riley 的提示在右边，Khanmigo 的回答在左边）：

可以看到 Khanmigo 一直无法准确回答这个简单的数学问题，这不仅仅是因为 Khanmigo 在这里不理解数学的概念。更糟糕的是，Khanmigo 似乎在与人类对话，但它最终没有真正的「思考」发生。Khanmigo 没有能力对人类脑海中发生的事情进行理论化，尽管 Benjamin Riley 一再试图说服它，证明他对方程式的简化是正确的。Khanmigo 只是含糊地暗示 Benjamin Riley 偏离了正确方向。Khanmigo 只是根据 Benjamin Riley 的提示生成文本，而并没有真正实现与人类的对话。这对学生的学习来说并没有什么益处，如果一个八年级的学生第一次学习这门学科，明明他做对了，但 Khanmigo 反复强调他是错的。那么这个学生就会陷入自我怀疑中，影响到他以后对知识的掌握。

认知科学家加里·马库斯（Gary Marcus）将生成式人工智能的行为描述为「经常出错，从不怀疑」，而这恰恰是教育工作者最糟糕的品质。甚至可以称之为反学习，因为这些工具正在纠正学生没有犯的「错误」。学生处在认知建立的阶段，如果受到人工智能错误的引导，就会导致其认知出现混乱，这也是在教育中最不愿意看到的场景。

02 生成式人工智能究竟能否应用于教育？

无论是人工智能应用于教育的支持者还是反对者，目前都只是在黑暗中争论。支持者认为随着时间的推移，这些工具注定会变得更好，但目前没有严格的证据表明它们能有效地大规模改善学生的学习。而反对者则缺乏关于这些人工智能错误发生频率的可靠数据，同样不具有说服力。

从长远来看，生成式人工智能是 AI 高速发展下的产物，它能够激发新的想法，生成多视角的例子，制定课程计划和演示文稿，总结现有的材料并刺激图像创作。不仅可以帮助教育工作者承担一些繁琐的工作，还能提高学生应用和识别人工智能的能力，更积极地参与到智能化教育中去，适应人工智能发展趋势。

但另一方面，它也带来了诸多问题，生成式人工智能所需的数据大多是从互联网上进行爬取，且很大一部分数据并不经过数据持有者的同意，这就造成了对知识产权的侵犯。同时，正如上文所提到的，生成式人工智能所生成的结果并不能保证其准确性，由于缺乏严格的法规和有效的监督机制，生成式 AI 在互联网上所获取的错误数据也会被采纳得出错误结果，从而误导学习者。并且，生成式人工智能由于缺乏对现实世界的了解，生成的文本的一般模型与现实世界之间存在脱节，这将会给未来教育带来严重风险。

那么，生成式人工智能究竟能否应用于教育？

从根本上看，生成式人工智能终归只是技术，科技是把双刃剑，关键是要看其怎样使用。面对初现端倪的教育智能时代，教育从业者应该更深入地理解教育的内涵。在 Benjamin Riley 看来，人类还没有学会人类是如何学习的。未来的教学很大程度上会呈现出人机协同的特征，教师在课堂中更多是作为一个引导者，引导学生学会学习、学会提出问题；而学生的学习也将不再局限于课堂，而是走向更加开放、多元、人机互动的空间。

随着对教育本质内涵的深入，生成式 AI 也就能随之进行调整，使其更融洽地融入到教育的各个环节中去。通过深入理解思维如何工作的科学，并将这门科学与生成式人工智能背后的技术进行比较和对比，我们就可以对如何使用这种新工具或是否全部使用做出更好的决定。

人工智能始终无法代替人类的智慧、创造力和情感，要始终确保人的主体性地位，利用人工智能来服务人类，而不是被人工智能捆绑，成为技术的奴隶。

以 ChatGPT 为代表的生成式人工智能虽然在教育领域有广泛的应用前景，但并非在所有教育场景中都适用。

教育领域也需要高度关注生成式人工智能技术的潜在安全与伦理风险，针对教育领域的应用场景，推进制定相关法律法规，形成技术与教育双螺旋式的互促共进。当通用人工智能已经逐步接近人类社会，教育作为人类文明进步的基石，应该从容应对挑战且充满自信。

本文来自微信公众号“多鲸”（ID：DJEDUINNO），作者：多鲸