
2023年9月7日,联合国教科文组织发布《生成式人工智能教育与研究应用指南》,支持各国采取行动、规划政策并发展人的能力。本文保留本站2023年11月24日长篇解读的范围,围绕风险、教学应用与儿童保护整理其主要内容。

内容范围
这是一篇部分内容的编译与解读,并非指南全文或官方中文译本。指南以人为本,强调人的能动性、包容、公平、性别平等以及文化和语言多样性。
2023年的发布背景
指南记录:ChatGPT在2023年1月达到约1亿月活跃用户,而截至2023年7月,只有一个国家发布了专门的生成式人工智能法规。这是报告当时的观察,不能当作今天的全球监管统计。
原稿将指南与中国2023年7月公布的《生成式人工智能服务管理暂行办法》对照,关注生成内容标识、伦理、准确性和人工审核。两者性质及适用范围不同;中国文件于2023年8月15日起施行,其具体规定应查阅官方文本。
时任联合国教科文组织总干事Audrey Azoulay在发布时指出,生成式人工智能兼具发展机遇与伤害、偏见风险;教育应用需要公众参与、政府保障与适当规范,以学习者利益为出发点。
六类争议与教育风险
指南讨论了常被忽略的争议。对教育而言,一项突出风险是看似可信的生成内容混入偏差和错误,扰乱学习者对知识与信源的判断。以下保留原稿重点介绍的六类问题。
数据贫困与不平等:模型依赖大量数据、算力和持续技术投入,资源集中于少数大型企业和经济体。原报告举及美国、中国和欧洲国家;无法获取或负担数据的群体可能进一步落后。教师、研究者和学习者应审视训练数据中的价值取向、文化标准与社会习俗,政策制定者也须回应结构性差距。
监管适应滞后:系统快速迭代,安全维护困难,立法与监督往往跟不上发展。即使技术能增强人的能力,社会也未必能有效约束提供者。国内机构、个人及本地生成数据的获取和使用,需要适当的治理与权利保障。
未经同意使用内容:模型训练可能涉及未经权利人许可搜集的文本、声音、代码和图像。研究者、教师和学习者需了解数据权利;生成图像或代码可能触及他人知识产权,自己公开分享的作品也可能被其他模型利用。
信源污染与递归风险:训练材料中的歧视和偏见可能进入生成内容;流畅、自信的表述并不保证准确。缺乏先验知识的年轻学习者尤其容易误信。模型生成的错误再次被抓取用于训练,还可能形成循环;用于课程与教材的内容因此需要人工核验。
与现实理解的距离:指南以“随机鹦鹉”的比喻讨论语言模式模仿。能生成像样的文本,不等于经过现实观察、科学论证或人类价值判断。教育者和学生应避免因表达流畅而给予输出不相称的信任。
深度伪造与虚假信息:生成式人工智能可改造图像、音频或视频,使虚构内容更难辨识。教育中需要识别、核对并说明合成材料,防止其被误当作真实证据。
版权讨论的历史语境
原稿还引述了指南对2023年版权与治理讨论的比较:美国关注人类创作在版权中的地位,欧盟当时的人工智能法案提案讨论训练材料披露,中国文件要求对特定生成内容作标识。这些属于当时的政策语境,不能概括为今天所有生成作品的统一法律结论。
创造性应用从学习需要出发
ChatGPT推出时,教育者担忧代写与作弊,同时也探索创意激发、多视角示例、教案和演示文稿、材料摘要及图像创作。指南强调,应从教学、学习和研究的真实需要及伦理原则出发,而非只追逐技术能力。
机构层面的四项行动
教育和研究机构需要制定、实施并验证适当的战略与伦理框架。原稿提出四项相互配合的行动:
- 制度化落实伦理:明确负责任使用要求,严格核查输出的准确性与有效性。
- 指导与培训:理解数据标注和算法偏见,并遵守适用的数据隐私与知识产权规范。
- 提示设计与评价能力:结合学科知识编写、改进提示,批判评估回答,并提供高质量培训和支持。
- 学术诚信与评价改进:指南指出,AI水印和检测工具的有效性证据当时不足;需要人工判断、问责和重新设计作业,让评价关注复杂现实问题中的同理心、创造力及人的能力。
研究与教学应用探索
指南以使用中的协同设计为线索,讨论研究、教师支持、基础技能练习、高阶思维和特殊学习需要。以下用途是需要审查和验证的探索方向,并非对任意工具效果的保证。
研究支持:生成式人工智能可帮助拓宽研究思路、探索数据和梳理文献。仍须明确研究问题、预期结果及准确性和有效性的检验方式,避免削弱研究者理解现实世界的能力。
教学支持:教师可参与共创教案、课程包和课程,增强学科与教学法理解。利用经验教师和资源库数据训练的对话式教学助手已有探索,但潜力与伦理风险均需审查,实际应用与迭代必须保留人工监督。
一对一基础技能练习:母语或外语的听力、发音、写作,以及计算、艺术和编程,仍是能力发展的基础。练习不必因技术更新而被淘汰;适当工具可能支持按个人节奏反复练习,同时不应挤压高阶思维和创造力。
特殊教育与无障碍支持
特殊教育与无障碍:潜在用途包括为聋人和听障学习者提供字幕,为视障学习者提供音频描述,以及利用文本转语音、语音转文本帮助有视觉、听觉或言语障碍者获取内容、提问和与同伴交流。
指南援引2023年政府调查,当时仅中国、约旦、马来西亚和卡塔尔四国报告其政府部门已验证并推荐支持残障学习者包容性接入的人工智能辅助工具。该统计的对象是人工智能辅助工具,不能据此推断所有生成式人工智能用途均已验证有效。
关于通过对话识别心理、社会情绪问题或学习困难的设想,指南明确指出,有效性与安全性证据仍很有限,任何诊断都需要专业人员解释。不能把这样的探索写成可替代专业服务的成熟功能。
儿童保护与适龄使用
多数通用生成式人工智能应用最初主要面向成人,可能使儿童接触不适当内容或受到操纵。面对快速迭代及不确定性,指南建议以适龄设计、限制和监督保护儿童权利与福祉。
对于与生成式人工智能平台独立对话,指南建议最低年龄门槛为13岁,并要求各国审慎讨论适当门槛和年龄核验方式。这是政策建议,不是联合国教科文组织对所有国家直接颁布的强制年龄法规。
报告以当时的ChatGPT条款举例:至少13岁,未满18岁须经父母或法定监护人许可;也讨论13岁、16岁与监护人同意等制度背景。这些是2023年的比较材料,不能替代对当前服务条件及当地适用规则的核对。
指南还要求明确提供者在年龄核验方面、以及父母或监护人在监督未成年人独立对话方面的责任。年龄门槛需要与教育适切性、隐私保护和实际监督共同考虑。
以人为本的结论
从以人为本的角度,工具应扩展人的智力和社会交往能力。依据2021年《人工智能伦理问题建议书》,个人、机构和系统层面均须审查技术;生成式人工智能可能改变教育研究的基础,其应用与转型应服务于所有人的包容性数字未来。
相关阅读
相关阅读:可对照本站的指南发布短讯、正式师生人工智能能力框架,以及特殊与融合教育资源,区分发布消息、框架介绍和本篇长文解读的范围。
原始出版物与来源
原始出版物:Fengchun Miao、Wayne Holmes,Guidance for generative AI in education and research,UNESCO,2023,DOI:10.54675/EWZM9535。原报告采用CC BY-SA 3.0 IGO许可,注明例外的第三方图片另受权利限制;官方出版页提供不同语言版本。
编校说明:本页保留原有标题、网址和2023年存档日期,依据原报告修正用户规模、年龄建议及将GenAI误译为“基因”等文字;政策与产品举例均保留其历史语境。
原文链接: https://aiedchair.bnu.edu.cn/%e3%80%8a%e7%94%9f%e6%88%90%e5%bc%8f%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e6%95%99%e8%82%b2%e4%b8%8e%e7%a0%94%e7%a9%b6%e5%ba%94%e7%94%a8%e6%8c%87%e5%8d%97%e3%80%8b/


