黄荣怀,陈莺,Ahmed Tlili:教育机器人的典型应用场景及技术治理

本文为黄荣怀、陈莺、Ahmed Tlili发表于《中国现代教育装备》2024年第1期的研究文章,讨论主要依据2022—2023年材料。全文按原有范围整理,校订及研究语境说明见文末;原刊英文摘要另存。

黄荣怀,陈莺,Ahmed Tlili

北京师范大学

摘要与研究背景

摘要:基于生成算法和大语言模型的生成式人工智能技术快速发展,触发了人们对智能技术融入教育的新关切。教育机器人是专门为教育场景研发的智能机器人,在助力教与学方面呈现出巨大的潜能,但也带来了新的伦理与安全风险,因此应加强对教育机器人的研究、规范与治理。在分析国际人工智能与教育新发展的基础上,梳理了STEM教育中的机器人、面向机器人的编程、社交机器人支持下的语言学习等七个教育机器人的典型应用场景,并以ChatGPT为例,通过社交媒体话语分析,提出了聊天机器人在学校教育中的价值和使用建议。应构建包含鲁棒性、合法性、合规性、合乎伦理性四个基本准则的教育领域可信人工智能框架,开展教育领域智能技术治理,为教育高质量和可持续发展提供保障。

关键词:人工智能;ChatGPT;教育机器人;应用场景;技术治理

文中参考文献[8]所引2023年《人工智能为全民学习所用?100篇有影响力的教育机器人学术论文》手册封面。来源:智慧学习研究院/CIT;本图为所引手册,不是本篇期刊论文封面。
文中参考文献[8]所引2023年《人工智能为全民学习所用?100篇有影响力的教育机器人学术论文》手册封面。来源:智慧学习研究院/CIT;本图为所引手册,不是本篇期刊论文封面。

新一代人工智能是推动科技跨越发展、产业优化升级和生产力整体跃升的驱动力量。2022年底发布的ChatGPT再次将人工智能技术推上新高度 [1] ,引发人们对“机器取代人”的担忧,也迫使教育工作者重新思考人工智能的前景和未来教育的发展方向。

教育机器人是智能教育环境的重要组成部分。近年来,机器人在教育领域的应用受到了全球教育界的高度重视,相关学者和机构开展了一系列研究和探索。面对人工智能技术的快速发展和持续迭代,以及机器人在教育领域的广泛渗透,有必要跟踪国际人工智能与教育发展新动向,研究教育机器人的典型应用场景,分析教育机器人在学校教育中的价值,研判其潜在风险和威胁,并在此基础上提出“以人为本”的技术治理框架。

1. 人工智能技术新进展与国际AIED新动向

斯坦福大学以人为本人工智能研究院(Stanford HAI)发布的《2023人工智能发展指数报告》[2]分析全球人工智能发展及趋势。原文归纳了三个关注点:产业界发展领先于学术界、政策制定者对人工智能的支持提升,以及各国公众态度的差异。其中2022年Ipsos调查显示,78%的中国受访者认同“使用AI的产品和服务利大于弊”,美国受访者的相应比例为35%;这里比较的是该题目的样本认同度。在所调查国家中,中国样本对这一题目的认同度最高。

本文围绕生成算法、大语言模型(LLM)与多模态三个技术侧面讨论生成式人工智能。ChatGPT相关模型所采用的Transformer是以注意力机制为核心的架构,并非一个特定大语言模型的名称;自注意力把同一序列不同位置联系起来计算表示[3]。原文认为,聊天机器人能够提供传统“查字典”方式不易获得的信息,并用语境消歧举例:the doors of the jaguar were open中的jaguar指捷豹汽车,the jaguar made a howling noise中的jaguar指美洲豹。这是原文的说明性例子。《GPT-4技术报告》[4]报告了模型在若干专业和学术测试中的表现,例如在模拟美国律师资格考试中达到约前10%的水平;这一结果指GPT-4在特定测试中的表现。

联合国教科文组织于2021年4月发布的《人工智能与教育—政策制定者指南》(AI and Education: Guidance for Policy-makers)指出 [5] ,人工智能的每种应用都依赖复杂的底层技术实现,包括传统人工智能、机器学习、人工神经网络(ANN)与深度学习等。这些底层技术催生了一系列人工智能应用,且越来越多地以“人工智能即服务”的形式呈现,包括自然语言处理(NLP)、语音识别、图像识别与处理、自主代理、情绪检测、用于预测的数据挖掘、人工创作等。人工智能技术在教育领域的应用主要体现在以下三个方面:一是教育供给与教育管理 ;二是学习与测评,如智能导学系统、人工智能支持的协作学习、教育虚拟现实与增强现实、探索性学习环境等 ;三是教师赋能和教学改进,如人工智能驱动的论坛监控、人工智能与人类的“双师”模式、人工智能驱动的教学助理等。

近年来,教育中的人工智能(Artificial Intelligence in Education,AIED)快速发展,教育机器人作为典型的人工智能应用,存在很大的争议。例如,ChatGPT在帮助教师备课、促进学生自主学习等方面有非常卓越的表现,但同时也带来了新的伦理与安全问题,因此必须加强对教育机器人的规范与治理。联合国教科文组织于2021年11月发布的《人工智能伦理问题建议书》(Recommendation on the Ethics of Artificial Intelligence)(简称《建议书》)提出 [6] ,人工智能的发展和应用首先要体现4个价值,即尊重、保护和促进人权与基本自由及人类尊严,促进环境及生态系统的繁荣发展,确保多样性与包容性,构建和平、公正与相互依存的人类社会。 《建议书》还明确了人工智能应用的10项原则和11个政策领域。

作为首个人工智能伦理方面的全球框架,《建议书》重申了人工智能开发与应用中的人本主义价值观,为各国更好地利用人工智能技术造福人类提出了建议,具有很强的指导意义和实践价值。

2. 教育机器人的典型应用场景

教育机器人是面向教育领域专门研发的以培养学生分析能力、创造能力和实践能力为目标的机器人,具有教学适用性、开放性、可扩展性和友好的人机交互性等特点。教育机器人可分为机器人教育和教育服务机器人两类 [7] :机器人教育包括一系列的教育活动、教学课程、实体平台、教育资源或教育哲学;教育服务机器人是具有教与学功能的智能机器人,常被用于STEM教育、语言学习、特殊人群学习等主题的辅助教学与管理。

笔者以高被引、代表性、前沿性为三个基本原则,通过聚类分析近10年来在教育机器人领域有影响力的100篇学术文章,归纳出教育机器人的7个研究主题,即教育机器人的典型应用场景 [8] 。

2.1 STEM教育中的机器人

STEM教育中的机器人研究主要涉及以下几个方面:一是使用机器人开发STEM课程,包括学习情境、学习模式、学习群体、学习效果等;二是通过机器人探索STEM教育中培养学生计算思维、元认知能力、解决问题能力的方法;三是提供一个有益的、具有实践性的学习环境来实施STEM教育;四是重点探讨学生和教师在STEM教育中使用教育机器人的感知和体验,涉及接受度、信任、态度、信心、兴趣、焦虑等方面。

2.2 面向机器人的编程

从幼儿到青少年都可以学习面向机器人的编程。幼儿阶段主要关注对计算思维的体验;小学阶段主要关注如何发展学生的计算思维;中学阶段主要关注如何促进学生的创新能力、动手能力、合作能力和问题解决能力;大学阶段主要关注如何提高学生的课堂参与度。

2.3 社交机器人支持下的语言学习

社交机器人既可用于幼儿语言启蒙,又可帮助成人进行多语言学习。研究者关注的主要问题包括以下几个。一是如何使用不同形式的社交机器人促进儿童语言能力的发展,包括词汇、阅读技能、口语技能、语法和手语等;二是如何使用不同形式的社交机器人支持成人的第二语言学习,以及如何扩展课堂覆盖范围,为成人提供随时随地的语言学习机会。

2.4 课堂教学中的机器人

在课堂教学中,重点关注如何利用机器人技术改变原有教学,实现抽象知识的可视化,强化系统思维的培养。在K-12教育中,机器人大多应用于基础学科,以提高学生对基本概念的理解及课堂参与度等;在高等教育中,机器人大多应用于各专业的工程类课程,以突破原有教学方法的局限,提高学生对抽象概念的理解及其系统设计能力等。

2.5 机器人辅助特殊教育

机器人辅助特殊教育的研究关注包括孤独症儿童在内的学习者,探讨机器人如何在特定互动任务中支持沟通与社交能力。原文归纳四类用途与研究目标:一是把机器人作为导师或教学工具,支持音乐、戏剧表演等技能学习;二是研究其对语言与非语言社交技能、模仿能力及人际关系建立的支持;三是探索其对行为和情绪问题的作用;四是把机器人作为儿童与人类导师之间互动的平台或媒介,并考察相关干预效果。这些是研究方向与潜能,不构成对所有儿童的疗效保证。

2.6 服务老年人的认知训练机器人

服务老年人的认知训练机器人研究,关注其对有认知障碍老年群体的记忆、语言及情绪状态可能产生的作用,以及老年人和相关利益方的接受度。原文列出两个研究方面:一是以实证研究检验认知训练对认知能力的影响;二是研究老年人及相关群体的接受度。

2.7 基于“对话代理”的个性化辅导

对话机器人是一种典型的智能导师系统,目前语言学习软件、学科学习系统及社交平台都具备对话机器人功能。未来将重点关注以自然语言生成为代表的新一代聊天机器人,相关研究将集中在 AIGC和LLMs技术、伦理道德、包容性、可用性、用户体验、学术诚信与人机协作等方面。

3. 聊天机器人在学校教育中的价值——以ChatGPT为例

ChatGPT是基于生成式预训练Transformer模型的聊天机器人,能以自然语言与用户交互、依据指令生成内容。原稿同时讨论了多模态内容的应用潜力;下文个案及用户体验描述针对2022年底至2023年初的早期研究语境。作者认为它有提升学习效率的潜能,也可能带来学术诚信、隐私保护及数据安全问题。当时的争议包括两方面:一是资源不足、聊天机器人技术与教学任务不匹配、法规与责任问题、数据安全、忽视用户需求、对话设计和内容质量等,影响教育实践使用;二是部分学校曾因担心作业作弊而禁止其进入教育网络。这类应急措施虽能规避部分风险,也可能排除便利及潜在机会[9]。

笔者对中国、美国等国在教育领域应用ChatGPT的情况展开了个案调查,通过社交平台观察、使用内容调查、用户体验分析三个阶段,深度分析了使用ChatGPT等聊天机器人在教育中的应用实践,揭示了需要注意的问题并提出了建议。

3.1 了解公众话语及态度

研究以“ChatGPT”和“教育”(或教学、学习)等为检索词,收集2022年12月23日至2023年1月6日1530名Twitter用户的2330条推文,进行情感分析及t-SNE分析。原文归纳:讨论主题相对分散,尚无集体共识;存在担忧与批判性思考;“作弊”“信息安全”等词反映了潜在问题。所引研究将5%的推文归为积极、2.5%归为消极,92.5%未被归入这两类;这不是92.5%的用户持中立态度。研究作者又根据词聚类等分析解读出一定乐观倾向,并提醒谨慎使用。词聚类的解读与推文情感分类应分别理解,不能推广为全体公众的态度。

3.2 用户访谈内容分析

用户普遍认为ChatGPT对教育变革具有重要意义,但也存在担忧。笔者从教育转型、响应质量、系统有用性、使用者个性、情感及伦理五个角度对访谈内容进行了分析,得出以下结论。

研究对访谈内容的归纳包括以下五点。一是受访者认为,ChatGPT能以自然语言提供各类知识,有助于学习、教学方式转变及教育数字化转型。二是多数受访者对信息质量和准确性表示满意,但早期系统的知识时间范围及错误回答受到关注,回答质量也与用户指令相关。三是多数受访者认为对话流畅有趣;当时的文本界面不能识别身体语言和动作暗示,拟人化与社会互动仍需研究。四是特定主题信息和即时反馈可能减轻教师工作量,但上下文理解有限、同一主题可能出现矛盾,因而作者建议改进注释及前文信息检索,以支持学术研究。五是受访者及作者担忧,过度依赖可能削弱主动学习、创新和批判性思维,增加剽窃作弊风险;偏见、错误信息与个人数据和隐私风险也须关注。这些是当时访谈观察及解释,不是对所有学生学习效果的因果测量。

3.3 使用建议

基于以上分析,笔者提出将ChatGPT应用于教育领域的6项原则性建议。

  1. 接纳而非禁止。正视ChatGPT等聊天机器人的正面和负面效应,应思考如何在学校中更好地使用,而非简单禁止。应会同教育、安全、心理等各领域的专家进行协同研究,由教育主管部门制定指导方针和政策,确保ChatGPT在学校中安全有效地使用。
  2. 更新教育理念。 ChatGPT深度融入教育教学之中,使得以知识掌握为目标的机械记忆、简单文字处理等将不再是教育的重点,因此,教师应着重培养学生的逻辑思维和批判性思维。例如,像古代斯多葛学派那样通过口头辩论来评估学生的思维能力、论点的合理性和准确性及说服力。在人机协同的教学环境中,教师应在教学设计中增强动手操作和口头报告等环节,并采用新的评估方法。
  3. 切莫盲信输出。鉴于ChatGPT等聊天机器人尚无法保证其输出内容的准确性,教师应注意培养学生甄别信息的能力,引导学生正确评估和使用聊天机器人提供的各类文本。
  4. 提升应用能力。学生与ChatGPT等聊天机器人的互动对其获取信息和提高学习效率具有关键作用,学校和教师应着重提升学生的思维能力、提问技巧,教会学生如何更好地使用大语言模型和数据源进行学习。
  5. 人性化机器人。目前大部分聊天机器人都是以任务为导向的,缺乏情感维度,因此无法向学生提供情感价值,从而削弱使用的沉浸感。应基于社会交往理论研发更具人性化的聊天机器人,并研究其对学生心理和学业的影响。
  6. 高度关注伦理问题。聊天机器人有可能提供虚假和不良信息,对学生造成伤害。因此,在设计和开发中应坚持“以学生为中心”,遵守法律法规和道德准则,遵循算法透明、可解释等原则,充分考虑社交、情感、认知和教学等各方面因素。

4. 教育领域的机器人场景规范与技术治理

教育机器人的广泛使用可能带来新的安全与伦理风险,促进人工智能技术规范而有序地融入教育生态是社会各界的关切所在。应从以需求、潜能和挑战为代表的效应三要素,以及人工智能技术与教育教学的融合度、可信度等方面进行客观分析与深入研究,建立包含鲁棒性、合法性、合规性、合乎伦理性四个基本准则的教育领域可信人工智能框架,开展面向智能社会的教育治理,以人工智能技术实现教育治理的精准化和长效化,为教育高质量、可持续发展提供保障 [10] 。

教育领域人工智能技术治理包括5个核心关切:

  1. 规范而有序地提升师生的数字素养与技能。师生应不断优化应用和控制智能机器人的能力,特别是信息的获取、甄别、验证、筛选和整合能力,能够在人机协同条件下更好地学习和工作。
  2. 建立人工智能技术产品的校园准入体系。相关机构需加强人工智能技术产品的分级分类研究,教育主管部门应在审查、监管、问责等方面建立规范体系,包括法律法规、政策措施、制度规定及管理方式等,促进智能时代教育的健康发展。
  3. 强化人工智能教育的社会实验。人工智能教育社会实验采用循证方法,分析人工智能技术对教育教学各环节的长期影响,总结智能时代教育变革的规律。在实际工作中,应深化实验方法论与实验规范的研究,逐步建立完善的人工智能社会实验体系 [11] 。
  4. 规范人工智能技术的教育应用场景。系统分析教育场景真实需求与人工智能技术供给的耦合机制,加强学生认知特征与智能技术场景关系的研究,对智能产品使用中所涉及的时间、地点、人物、资源、功能、学科等要素进行链条化分析,探索适合的知识点,找到教育机器人与不同学科内容的最佳结合点。
  5. 确保师生的隐私与数据安全。由于相关法律法规和监管体系尚不健全,ChatGPT等人工智能应用可能导致隐私侵犯和数据泄露,引发族群歧视、教育鸿沟拉大等新的教育不公。因此,应尽快开发出合乎伦理、安全可控、适合师生使用的生成式人工智能产品,确保隐私与数据安全 [12] 。

参考文献

  1. 吴砥,李环,陈旭.人工智能通用大模型教育应用影响探析[J].开放教育研究,2023,29(2):19-25,45.
  2. MASLEJ N, FATTORINI L, BRYNJOLFSSON E, et al. Artificial Intelligence Index Report 2023[EB/OL].(2023-04-03)[2023-11-02].https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf.
  3. VASWANI A,SHAZEER N,PARMAR N, et al. Attention Is All You Need[EB/OL].(2017-12-06)[2023-11-02].https://arxiv.org/pdf/1706.03762v5.pdf.
  4. OpenAI. GPT-4 Technical Report[EB/OL].(2023-03-27)[2023-11-02].https://arxiv.org/pdf/2303.08774.pdf.
  5. MIAO F, HOLMES W, HUANG R, et al. AI and education: guidance for policy-makers[EB/OL].(2021-04-09)[2023-11-02]. https://unesdoc.unesco.org/ark:/48223/pf0000376709.
  6. UNESCO. Recommendation on the Ethics of Artificial Intelligence[EB/OL]. (2021-11-23)[2023-11-02].https://unesdoc.unesco.org/ark:/48223/pf0000381137_eng.
  7. 黄荣怀,刘德建,徐晶晶等.教育机器人的发展现状与趋势[J].现代教育技术,2017,27(1):13-20.
  8. HUANG R H, LIU D, CHEN Y, et al. Learning for All with AI? 100 Influential Academic Articles of Educational Robots[R]. Beijing: Smart Learning Institute of Beijing Normal University, 2023.
  9. TLILI A, SHEHATA B, ADARKWAH M, et al. What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education[J]. Smart Learn. Environ. 2023,10:15. https://doi.org/10.1186/s40561-023-00237-x.
  10. 夏立新,杨宗凯,黄荣怀,等.教育数字化与新时代教育变革(笔谈)[J].华中师范大学学报(人文社会科学版),2023,62(5):1-22.
  11. 黄荣怀,王欢欢,张慕华,等.面向智能时代的教育社会实验研究[J].电化教育研究,2020,41(10):5-14.
  12. 张绒.生成式人工智能技术对教育领域的影响:关于ChatGPT的专访[J].电化教育研究,2023,44(2):5-14.
原刊英文信息存档

Typical Scenarios and Governance of Educational Robot Application

Huang Ronghuai, Chen Ying, Ahmed Tlili

Beijing Normal University

Abstract: The rapid development of generative AI has triggered new concerns about the integration of intelligent technologies into education. Educational robot shows great potential in assisting teaching and learning, but it also brings new ethical and safety risks, so the research, regulation and governance of educational robots should be strengthened. We sort out seven typical application scenarios, including educational robots in STEM education, robot-oriented programming, language learning supported by social robots, etc., and propose the values and application suggestions of chatbot in school education through social media discourse analysis about ChatGPT. We also argue that a credible AI framework in education should be constructed, and intelligent technology governance should be carried out to provide guarantee for the high quality and sustainable development of education.

Keywords: AI; ChatGPT; educational robot; application scenarios; technological governance

编校与研究语境说明

  1. 原刊信息:2024年第1期,第1—4、8页,DOI:10.13492/j.cnki.cmee.2024.01.006。作者北师大教育学部页面及SLI文献目录可交叉核对。 参考文献[9]的作者姓氏校正为Adarkwah,卷号与文章号规范为10,15。 北师大作者页; SLI文献目录; 所引2023年研究
  2. UNESCO《人工智能伦理问题建议书》为四项价值、十项原则和十一个政策行动领域;原稿“七项原则”已校正,环境及生态系统也不写成“AI系统”。 UNESCO建议书
  3. 78%与35%来自2022年Ipsos调查,题目为AI产品和服务是否利大于弊;不是现时总体支持率。 斯坦福2023报告
  4. Transformer是模型架构;GPT-4报告中的模拟考试和图文输入、文本输出能力,不等同于所有ChatGPT版本的通用能力。 Transformer论文; GPT-4技术报告
  5. 研究样本为2330条推文、1530名用户。92.5%是未归入正负情感类别的推文比例,不能写成中立用户比例;词聚类乐观解读也不等于公众普查。 所引2023年研究
  6. 访谈观察、2021知识范围、文本界面及学校禁用讨论属于早期研究材料,按当时系统和情境理解;不是当前产品说明或普遍因果结论。 所引2023年研究; SLI全文
  7. 特殊教育及老年认知训练段落保留全部用途和研究目标,以研究潜能表述,不据综述直接作个体或普遍疗效结论。 SLI全文
  8. 四项可信AI准则、六项使用建议和五项治理关切是作者的分析与倡议。原“切莫引以为然”按上下文规范为“切莫盲信输出”;未将倡议写成已实施标准。 SLI全文

原刊与转载说明

本文原刊:《中国现代教育装备》2024年第1期,第1—4、8页。作者:黄荣怀、陈莺、Ahmed Tlili,北京师范大学。原稿要求转载注明出处,本页保留作者与原刊署名。 DOI: 10.13492/j.cnki.cmee.2024.01.006

相关研究与资源

继续阅读:2023教育机器人手册报道、2024机器人与人工智能教育论坛,以及特殊教育与融合教育资源。

原文链接: https://aiedchair.bnu.edu.cn/%e9%bb%84%e8%8d%a3%e6%80%80%ef%bc%8c%e9%99%88%e8%8e%ba%ef%bc%8cahmed-tlili%ef%bc%9a%e6%95%99%e8%82%b2%e6%9c%ba%e5%99%a8%e4%ba%ba%e7%9a%84%e5%85%b8%e5%9e%8b%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af%e5%8f%8a/

分享到微信朋友

Scroll to Top