教育中的人工智能：益处、挑战与伦理考量

理解生成式 AI

生成式 AI 是人工智能的一个领域，专注于能够生成新内容（如图像、文本和音频）的系统，这些内容可模拟人类的创造力。

与其他形式的 AI（例如侧重于基于现有数据进行分析与预测的机器学习）不同，生成式 AI 能从零创造新内容。

流行的生成式 AI 工具（如 ChatGPT、Google Gemini 和 DALL-E）基于强大的大型语言模型（LLM）。LLM 依赖一种名为 Transformer 的创新神经网络，可根据给定输入生成相对准确的内容。

为实现其“魔法”，这些模型通常以海量数据进行训练，互联网是其主要来源。

查看我们的大型语言模型（LLM）概念课程，了解生成式 AI 模型背后的技术，并发掘其全部潜力。

生成式 AI 正在迅速改变教育这一不断演进、正走出传统课堂围墙的领域。公共部门历来对新技术持积极态度，认为其是改进教学与学习方式的重要驱动力。

鉴于生成式 AI 的巨大潜力，全球范围内的政府与教育机构已在各类教育场景中测试这些工具的可能性也就不足为奇了。

然而，生成式 AI 仍处于起步阶段，不会立刻兑现所有承诺。此外，鉴于教育机构的需求与资源各不相同，识别生成式 AI 能发挥最大影响力的领域至关重要。

生成式 AI 在教育中的良好用法

正如下文所示，AI 在教育中的潜力并不限于技术层面。它有能力让教育更易获得、更具吸引力，并能根据学生需求进行定制，同时也能提升教育管理的效率与生产力。

让我们分析生成式 AI 最具说服力的优势。

个性化学习

普遍认为，将教与学过程适配到每位学生的特征、需求与兴趣，有助于提升其动机、投入度、理解力与学业表现。

然而，推进个性化学习是教育中最重大的挑战之一。即便在教育领先的国家，班级规模通常也很大，教育者难以逐一关注每位学生的需求。同样，教育材料往往采用“一刀切”的模式，常常无法吸引部分学生。

在此背景下，生成式 AI 被视为实现个性化学习的关键技术。通过分析海量学生数据，生成式 AI 工具可以识别学生的优势与短板，生成新的个性化内容与作业以满足其个别需求。

这些信息不仅有助于 AI 助手创作定制内容，也对教育者有价值，他们可以据此识别学生可能遇到的困难，从而更好地设计课程。

提升参与度

与上一节密切相关，生成式 AI 也能有效提升学生参与度。每位学生都不同，传统的“一刀切”课程可能并不适合部分学生。这不仅与他们的水平有关，也与其偏好与学习风格相关。

借助生成式 AI，学生理想情况下可以获得恰好适合他们的课堂内容，从而提升参与度——例如用视频和图像替代纯文本、用实践替代理论、用测验替代长作业。可能性是无限的。

人人皆可受教育

生成式 AI 有潜力实现教育的民主化，让原本可能面临障碍的学生也能获得学习机会。

在高度多元的课堂中（学生背景、经济状况与语言各异），AI 尤其有效。通过帮助教育者为所有学生提供个性化、自适应的学习体验，生成式 AI 能成为促进包容且可及学习环境的核心力量。

行政管理效率

教育者的日常工作不止于教学，还涉及许多行政性、耗时耗力的任务，包括批改作业与考试、准备材料与课程、填写表格以及撰写报告。

生成式 AI 可简化并加速其中部分任务，让教师减轻负担，将更多精力投入到学生需求上。

支持创造力与批判性思维

生成式 AI 可成为挖掘学生潜能的有力工具。通过在各类学科（从数学、历史到艺术与音乐）中创建复杂而非常规的情境，生成式 AI 能挑战学生既有视角，促使他们以批判性思维来解决问题。

在创造力方面，生成式 AI 工具可作为有效助手，协助完成故事起草、图像/视频/音乐生成等任务。若使用得当，它们尤其适合提升思维创造力，帮助学生在某一学科的入门阶段，或在创作过程中克服如思维阻滞等障碍。

生成式 AI 在教育中的良好用法：摘要

生成式 AI 在教育中的不良用法

与所有有益的技术一样，生成式 AI 也存在诸多限制、挑战与被误用的可能。让我们深入审视。

过度依赖

关于采用生成式 AI 的主要担忧之一是过度依赖该技术的风险。本质上，这与是否、以及在多大程度上允许在课堂上使用计算器、电脑或智能手机的争论如出一辙。

技术让我们的生活更轻松。它能在数秒内完成原本需要数分钟、数小时甚至数天的任务。对于生成式 AI，教育场景中的用例潜在上近乎无限，从写论文、做演示到总结阅读材料、完成作业。

然而，如果我们让技术为学生包办一切，就可能丧失任何学习过程中固有的付出、挫折与成就感，取而代之的可能是缺乏决策能力、懒散与新的挫败感。

错误信息与偏见

尽管生成式 AI 模型能力出众，但它们并不真正理解所处理语言的含义。它们只是基于训练数据进行复杂计算，从而生成看似准确的内容。

因此，这些模型容易产生事实不正确、荒谬甚至有害的回答，即常说的 LLM 幻觉。在其他情况下，生成式 AI 可能带有偏见，进而生成不公平、带有歧视与刻板印象的内容，尤其伤害少数群体。

如果学生（甚至授课者）无法辨识不准确的内容，就可能在课堂上引发错误信息与歧视性观念的传播。

人际互动的减少

教育是获得新知识与技能的过程。这一过程与其说是个体性的，不如说是集体性的，尤其在幼儿阶段。

课堂之所以是教育的首选场域，正因为它促进学生之间的互动。学生们不仅一起学习与合作，还会相互了解、聊天并建立友谊。学生与教师之间亦然，这种基于信任与尊重的关系对学习至关重要。

生成式 AI 承诺带来更有效、更个性化的教育。但这也可能带来更孤立的学习方式，因为学生会把部分时间花在与虚拟助手互动上，而非与教师与同伴交流，从而可能损害其社交能力。

学术诚信

学术诚信意味着在学习与学术工作中诚实、公平、尊重与负责任。随着生成式 AI 的兴起，保障学术诚信变得更具挑战。

如前所述，生成式 AI 是一项新技术。如何对其进行规范（包括在教育场景中）仍存在诸多不确定性。结果是，学术机构与教育实践很少有关于生成式 AI 使用限制与期望的明晰指南。

生成式 AI 提高了学生提交非本人创作作品的风险。应对这些风险尤其困难，因为当前用于检测 AI 生成内容的技术尚不够准确可靠，可能导致对不当使用 AI 的不公正指控。

生成式 AI 在教育中的挑战：摘要

在教育中使用 AI 的实用建议

如果您考虑在日常工作中使用生成式 AI 工具，并向学生介绍这些工具，请参考以下实用建议：

识别成功用例

鉴于生成式 AI 的强大能力，用例数量潜在上无限。尽管课堂创新总是受欢迎，但您应时刻留意在课程中使用生成式 AI 的挑战与限制。

幸运的是，关于生成式 AI 对教育影响的研究正在快速发展。进行前期调研是识别成功用例与预判潜在陷阱的关键。

为让您一窥生成式 AI 在教育中的可能性，以下列出一些颇具前景的用例：

• 培养批判性思维
• 创意写作与可视化
• 比较分析
• 语言学习
• 历史情境扮演

制定清晰规范

在将生成式 AI 引入课堂之前，您应充分了解其能力与限制。在这一调研阶段，您还应评估该技术是否与所在教育机构的价值观、使命与规则相契合，以及它如何为您的课程创造附加价值。

只有这样，您才准备好向学生介绍生成式 AI。为确保共识，透明至关重要。清晰阐明课程的生成式 AI 政策，并指出禁止使用生成式 AI 的情形。

在允许使用生成式 AI 的情况下，您应说明如何记录与标注所用内容，并提供建议与示例。若您在备课过程中使用了生成式 AI，同样应遵循这些关于文档记录与署名的规则。

对工具进行监控

生成式 AI 功能强大，但并非万无一失。它可能出现幻觉，或仅仅无法按您的预期运行。

理想情况下，您应能掌控学生在屏幕上看到的内容。但这在技术上未必总可行，也可能引发对学生隐私的担忧。

鉴于生成式 AI 的现状，与学生建立互信关系，并制定清晰的规范与政策，或许是确保其恰当使用的最有效策略。

生成式 AI 的伦理考量与最佳实践

如同所有新兴技术，能力越大，责任越大。尽管生成式 AI 具有独特能力，但务必要考量其潜在风险与伦理问题。

• 隐私与数据安全。 生成式 AI 模型以从互联网上不加区分抓取的大量数据进行训练，其中往往包含个人数据。这会带来与数据隐私和安全相关的问题与风险，尤其在敏感个人数据被泄露时。
• 透明度与署名。 生成式 AI 系统本质上是“黑箱”，难以理解其如何得出某个回答，或哪些因素影响了其决策。在教育情境中，这会造成严重的署名问题，因为教师无法判断某项作品的作者究竟是学生还是生成式 AI。
• 应对偏见与准确性。 带有偏见的生成式 AI 工具可能产生有害输出，往往会加剧歧视与刻板印象，尤其针对少数群体。AI 研究者正努力缓解偏见并提升生成式 AI 模型的准确性。查看理解并缓解大型语言模型中的偏见以进一步了解这一主题。
• 数字鸿沟。 若实施不当，生成式 AI 可能扩大数字鸿沟。一方面，如果生成式 AI 将变得无处不在，每位学生都应能平等地接触这项技术，这意味着他们都需要拥有数字设备与互联网连接。但现实并非如此。一个可能的解决方案是由教育机构提供平等的接入条件，但这需要相当的资源，许多学校，尤其是贫困地区的学校，并不具备。这一关键问题需谨慎对待，否则我们可能加大贫富差距。

结语

生成式 AI 已经到来并将长期存在，它有潜力革新包括教育在内的各个经济部门。如何在发挥技术潜力的同时降低潜在风险，取决于教育工作者与教育科技解决方案提供方。

DataCamp 正在努力为教育者提供全面且易获取的资源，帮助大家及时掌握 AI 的最新进展。欢迎查看：

• 大型语言模型（LLM）概念课程
• 什么是 LLM？大型语言模型及其工作原理指南
• 十大 ChatGPT 替代方案，今日即可尝试
• AI 伦理：导论