黄荣怀，陈莺，Ahmed Tlili
北京师范大学
摘要：基于生成算法和大语言模型的生成式人工智能技术快速发展，触发了人们对智能技术融入教育的新关切。教育机器人是专门为教育场景研发的智能机器人，在助力教与学方面呈现出巨大的潜能，但也带来了新的伦理与安全风险，因此应加强对教育机器人的研究、规范与治理。在分析国际人工智能与教育新发展的基础上，梳理了STEM教育中的机器人、面向机器人的编程、社交机器人支持下的语言学习等七个教育机器人的典型应用场景，并以ChatGPT为例，通过社交媒体话语分析，提出了聊天机器人在学校教育中的价值和使用建议。应构建包含鲁棒性、合法性、合规性、合乎伦理性四个基本准则的教育领域可信人工智能框架，开展教育领域智能技术治理，为教育高质量和可持续发展提供保障。
关键词：人工智能；ChatGPT；教育机器人；应用场景；技术治理
新一代人工智能是推动科技跨越发展、产业优化升级和生产力整体跃升的驱动力量。2022年底发布的ChatGPT再次将人工智能技术推上新高度[1]，引发人们对“机器取代人”的担忧，也迫使教育工作者重新思考人工智能的前景和未来教育的发展方向。
教育机器人是智能教育环境的重要组成部分。近年来，机器人在教育领域的应用受到了全球教育界的高度重视，相关学者和机构开展了一系列研究和探索。面对人工智能技术的快速发展和持续迭代，以及机器人在教育领域的广泛渗透，有必要跟踪国际人工智能与教育发展新动向，研究教育机器人的典型应用场景，分析教育机器人在学校教育中的价值，研判其潜在风险和威胁，并在此基础上提出“以人为本”的技术治理框架。
1. 人工智能技术新进展与国际AIED新动向
近日，美国斯坦福大学“人本中心人工智能”项目团队(Stanford University Human-centered Artificial Intelligence, Stanford HAI)发布了《2023人工智能发展指数报告》(Artificial Intelligence Index Report 2023)[2]。报告分析了全球人工智能的发展水平和未来趋势，其中有几个观点值得关注：一是在人工智能领域，产业界的发展领先于学术界；二是政策制定者对人工智能的支持正在提升；三是中国对人工智能产品和服务的发展最具积极性，78%的中国受访者对人工智能产品和服务持肯定态度，而只有35%的美国受访者持肯定态度。
生成式人工智能涉及生成算法、大语言模型(Large Language Models，LLM)和多模态三种典型技术。目前最受关注的生成式人工智能应用ChatGPT，其大语言模型Transformer采用一种自注意力机制(Self-Attention Mechanism)[3]，即将单个序列的不同位置联系起来以计算该序列的表示的注意机制。Transformer是第一个完全依赖自注意力机制来计算其输入和输出表示的传导模型。原来用“查字典”的方式无法找到的信息，现在可以借助ChatGPT来获得，它还能根据语境正确理解词意。例如，当输入the doors of the jaguar were open时，输出的是“捷豹”(一种汽车品牌)；而当输入the jaguar made a howling noise时，输出的则是“咆哮的美洲豹”。《GPT-4技术报告》指出[4]，ChatGPT已在很多专业和学术测试中取得了令人惊叹的成绩，展示出接近人类的智力水平，如在美国律师资格考试中，GPT-4的成绩已进入前10%。
联合国教科文组织于2021年4月发布的《人工智能与教育—政策制定者指南》(AI and Education: Guidance for Policy-makers)指出[5]，人工智能的每种应用都依赖复杂的底层技术实现，包括传统人工智能、机器学习、人工神经网络(ANN)与深度学习等。这些底层技术催生了一系列人工智能应用，且越来越多地以“人工智能即服务”的形式呈现，包括自然语言处理(NLP)、语音识别、图像识别与处理、自主代理、情绪检测、用于预测的数据挖掘、人工创作等。人工智能技术在教育领域的应用主要体现在以下三个方面：一是教育供给与教育管理；二是学习与测评，如智能导学系统、人工智能支持的协作学习、教育虚拟现实与增强现实、探索性学习环境等；三是教师赋能和教学改进，如人工智能驱动的论坛监控、人工智能与人类的“双师”模式、人工智能驱动的教学助理等。
近年来，人工智能教育(Artificial intelligence in education，AIED)快速发展，教育机器人作为典型的人工智能应用，存在很大的争议。例如，ChatGPT在帮助教师备课、促进学生自主学习等方面有非常卓越的表现，但同时也带来了新的伦理与安全问题，因此必须加强对教育机器人的规范与治理。联合国教科文组织于2021年11月发布的《人工智能伦理问题建议书》(Recommendation on the Ethics of Artificial Intelligence)(简称《建议书》)提出[6]，人工智能的发展和应用首先要体现4个价值，即尊重、保护和促进人权与基本自由及人类尊严，促进环境与生态（AI系统）的繁荣蓬勃发展，确保多样性与包容性，构建和平、公正与相互依存的人类社会。《建议书》还明确了人工智能应用的7项原则和11个政策领域。作为首个人工智能伦理方面的全球框架，《建议书》重申了人工智能开发与应用中的人本主义价值观，为各国更好地利用人工智能技术造福人类提出了建议，具有很强的指导意义和实践价值。
2. 教育机器人的典型应用场景
教育机器人是面向教育领域专门研发的以培养学生分析能力、创造能力和实践能力为目标的机器人，具有教学适用性、开放性、可扩展性和友好的人机交互性等特点。教育机器人可分为机器人教育和教育服务机器人两类[7]：机器人教育包括一系列的教育活动、教学课程、实体平台、教育资源或教育哲学；教育服务机器人是具有教与学功能的智能机器人，常被用于STEM教育、语言学习、特殊人群学习等主题的辅助教学与管理。
笔者以高被引、代表性、前沿性为三个基本原则，通过聚类分析近10年来在教育机器人领域有影响力的100篇学术文章，归纳出教育机器人的7个研究主题，即教育机器人的典型应用场景[8]。
2.1 STEM教育中的机器人
STEM教育中的机器人研究主要涉及以下几个方面：一是使用机器人开发STEM课程，包括学习情境、学习模式、学习群体、学习效果等；二是通过机器人探索STEM教育中培养学生计算思维、元认知能力、解决问题能力的方法；三是提供一个有益的、具有实践性的学习环境来实施STEM教育；四是重点探讨学生和教师在STEM教育中使用教育机器人的感知和体验，涉及接受度、信任、态度、信心、兴趣、焦虑等方面。
2.2 面向机器人的编程
从幼儿到青少年都可以学习面向机器人的编程。幼儿阶段主要关注对计算思维的体验；小学阶段主要关注如何发展学生的计算思维；中学阶段主要关注如何促进学生的创新能力、动手能力、合作能力和问题解决能力；大学阶段主要关注如何提高学生的课堂参与度。
2.3 社交机器人支持下的语言学习
社交机器人既可用于幼儿语言启蒙，又可帮助成人进行多语言学习。研究者关注的主要问题包括以下几个。一是如何使用不同形式的社交机器人促进儿童语言能力的发展，包括词汇、阅读技能、口语技能、语法和手语等；二是如何使用不同形式的社交机器人支持成人的第二语言学习，以及如何扩展课堂覆盖范围，为成人提供随时随地的语言学习机会。
2.4 课堂教学中的机器人
在课堂教学中，重点关注如何利用机器人技术改变原有教学，实现抽象知识的可视化，强化系统思维的培养。在K-12教育中，机器人大多应用于基础学科，以提高学生对基本概念的理解及课堂参与度等；在高等教育中，机器人大多应用于各专业的工程类课程，以突破原有教学方法的局限，提高学生对抽象概念的理解及其系统设计能力等。
2.5 机器人辅助特殊教育
重点关注包括自闭症儿童教育在内的特殊教育，机器人能克服人与人交流的天然障碍，有助于培养自闭症儿童的沟通与社交能力，主要集中在以下场景。一是将机器人作为导师或教学工具，教授自闭症儿童相关技能，如音乐能力、戏剧表演能力等；二是使用机器人增强自闭症儿童的社交技能(包括语言交流和非语言交流)、模仿能力以及建立人际关系的能力等；三是使用机器人缓解自闭症儿童行为症状和情绪问题；四是将机器人作为自闭症儿童与人类导师之间社交互动的平台或媒介，从而提高治疗的有效性。
2.6 服务老年人的认知训练机器人
重点关注认知训练机器人在改善认知障碍老年群体的记忆力、语言能力和情绪状态方面发挥的作用，以及老年人群体及相关利益方对认知训练机器人的接受度。此类研究主要从两个方面展开：一是认知训练机器人对老年人认知能力提升有效性的实证研究；二是老年人及相关人群对认知训练机器人接受度的研究。
2.7 基于“对话代理”的个性化辅导
对话机器人是一种典型的智能导师系统，目前语言学习软件、学科学习系统及社交平台都具备对话机器人功能。未来将重点关注以自然语言生成为代表的新一代聊天机器人，相关研究将集中在AIGC和LLMs技术、伦理道德、包容性、可用性、用户体验、学术诚信与人机协作等方面。
3. 聊天机器人在学校教育中的价值 以ChatGPT为例
ChatGPT是一种基于预训练生成模型(Generative Pre-Trained Transform)的聊天机器人，它可与用户进行自然语言交互，并根据指令输出多模态内容，已展现出巨大的教育应用潜能。ChatGPT虽然可以提高学习效率，但也可能引发教育诚信危机、隐私保护、数据安全等一系列问题。目前，关于ChatGPT的争议主要集中在两个方面。一是数据资源不足、聊天机器人基础技术与教学任务不匹配、法律法规缺位、数据安全、忽视用户需求、对话设计及内容贫乏等，导致ChatGPT在教育实践中使用不畅。二是部分学校已禁止ChatGPT进入教育网络，以避免学生用来作弊。采取应激性措施虽在一定程度上规避了ChatGPT等聊天机器人带来的教育风险，但也屏蔽了其带来的便利及潜在机会[9]。
笔者对中国、美国等国在教育领域应用ChatGPT的情况展开了个案调查，通过社交平台观察、使用内容调查、用户体验分析三个阶段，深度分析了使用ChatGPT等聊天机器人在教育中的应用实践，揭示了需要注意的问题并提出了建议。
3.1 了解公众话语及态度
笔者以“ChatGPT”“教育”(或教学、学习)等作为关键词进行检索，对2022年12月23日至2023年1月6日期间，来自1530名推特用户的2330条推文进行了情感分析和tSNE(t-Distributed Stochastic Neighbor Embedding)分析。结果表明：一是ChatGPT应用于教育的讨论主题相对分散；二是用户对“ChatGPT是否为教育带来新机遇”这一问题尚未达成共识，92.5%的用户持中立态度，5%的用户持积极态度，2.5%的用户持消极态度；三是有的用户对ChatGPT应用于教育表现出极大的担忧及批判性思考；四是“作弊”“信息安全”等关键词均展现出用户对ChatGPT潜在问题的关注。对社交媒体话语分析的结果表明，用户对ChatGPT普遍持积极态度，高度关注其在教育场景中的应用，但也有部分用户认为在教育领域应谨慎使用ChatGPT。
3.2 用户访谈内容分析
用户普遍认为ChatGPT对教育变革具有重要意义，但也存在担忧。笔者从教育转型、响应质量、系统有用性、使用者个性、情感及伦理五个角度对访谈内容进行了分析，得出以下结论。
一是ChatGPT能够以自然语言向用户提供各类知识，有助于提高教育成功率，促进原有教学方式的转变，推动教育数字化转型。二是大多数用户对ChatGPT提供信息的质量及准确性表示满意，但因其数据集仅限于2021年以前，所以有时给出的答案存在错误，其答案质量与用户指令密切相关。三是大多数用户认为与ChatGPT对话十分流畅，充满趣味，但仅限于文本对话界面，ChatGPT无法识别用户的身体语言及动作暗示，其拟人性及社会化程度需要提高。四是ChatGPT就特定主题能够提供相关信息，并提供即时反馈，可减轻教师工作量；但其对应上下文的理解能力有限，有时就同一主题会提供自相矛盾的答案，因此应完善注释制作、搜索前文信息的功能，以提升其对学术研究服务的支持。五是学生过度依赖ChatGPT会滋生懒惰，甚至导致剽窃等作弊行为，从而削弱对创新能力和批判性思维的培养；ChatGPT可能提供带有偏见和虚假错误的信息，还可能威胁个人数据和隐私安全。
3.3 使用建议
基于以上分析，笔者提出将ChatGPT应用于教育领域的6项原则性建议。一是接纳而非禁止。正视ChatGPT等聊天机器人的正面和负面效应，应思考如何在学校中更好地使用，而非简单禁止。应会同教育、安全、心理等各领域的专家进行协同研究，由教育主管部门制定指导方针和政策，确保ChatGPT在学校中安全有效地使用。二是更新教育理念。ChatGPT深度融入教育教学之中，使得以知识掌握为目标的机械记忆、简单文字处理等将不再是教育的重点，因此，教师应着重培养学生的逻辑思维和批判性思维。例如，像古代斯多葛学派那样通过口头辩论来评估学生的思维能力、论点的合理性和准确性及说服力。在人机协同的教学环境中，教师应在教学设计中增强动手操作和口头报告等环节，并采用新的评估方法。三是切莫引以为然。鉴于ChatGPT等聊天机器人尚无法保证其输出内容的准确性，教师应注意培养学生甄别信息的能力，引导学生正确评估和使用聊天机器人提供的各类文本。四是提升应用能力。学生与ChatGPT等聊天机器人的互动对其获取信息和提高学习效率具有关键作用，学校和教师应着重提升学生的思维能力、提问技巧，教会学生如何更好地使用大语言模型和数据源进行学习。五是人性化机器人。目前大部分聊天机器人都是以任务为导向的，缺乏情感维度，因此无法向学生提供情感价值，从而削弱使用的沉浸感。应基于社会交往理论研发更具人性化的聊天机器人，并研究其对学生心理和学业的影响。六是高度关注伦理问题。聊天机器人有可能提供虚假和不良信息，对学生造成伤害。因此，在设计和开发中应坚持“以学生为中心”，遵守法律法规和道德准则，遵循算法透明、可解释等原则，充分考虑社交、情感、认知和教学等各方面因素。
4. 教育领域的机器人场景规范与技术治理
教育机器人的广泛使用可能带来新的安全与伦理风险，促进人工智能技术规范而有序地融入教育生态是社会各界的关切所在。应从以需求、潜能和挑战为代表的效应三要素，以及人工智能技术与教育教学的融合度、可信度等方面进行客观分析与深入研究，建立包含鲁棒性、合法性、合规性、合乎伦理性四个基本准则的教育领域可信人工智能框架，开展面向智能社会的教育治理，以人工智能技术实现教育治理的精准化和长效化，为教育高质量、可持续发展提供保障[10]。
教育领域人工智能技术治理包括5个核心关切：一是规范而有序地提升师生的数字素养与技能。师生应不断优化应用和控制智能机器人的能力，特别是信息的获取、甄别、验证、筛选和整合能力，能够在人机协同条件下更好地学习和工作。二是建立人工智能技术产品的校园准入体系。相关机构需加强人工智能技术产品的分级分类研究，教育主管部门应在审查、监管、问责等方面建立规范体系，包括法律法规、政策措施、制度规定及管理方式等，促进智能时代教育的健康发展。三是强化人工智能教育的社会实验。人工智能教育社会实验采用循证方法，分析人工智能技术对教育教学各环节的长期影响，总结智能时代教育变革的规律。在实际工作中，应深化实验方法论与实验规范的研究，逐步建立完善的人工智能社会实验体系[11]。四是规范人工智能技术的教育应用场景。系统分析教育场景真实需求与人工智能技术供给的耦合机制，加强学生认知特征与智能技术场景关系的研究，对智能产品使用中所涉及的时间、地点、人物、资源、功能、学科等要素进行链条化分析，探索适合的知识点，找到教育机器人与不同学科内容的最佳结合点。五是确保师生的隐私与数据安全。由于相关法律法规和监管体系尚不健全，ChatGPT等人工智能应用可能导致隐私侵犯和数据泄露，引发族群歧视、教育鸿沟拉大等新的教育不公。因此，应尽快开发出合乎伦理、安全可控、适合师生使用的生成式人工智能产品，确保隐私与数据安全[12]。
参考文献
[1] 吴砥,李环,陈旭.人工智能通用大模型教育应用影响探析[J].开放教育研究,2023,29(2):19-25,45.
[2] MASLEJ N, FATTORINI L, BRYNJOLFSSON E, et al. Artificial Intelligence Index Report 2023[EB/OL].(2023-04-03)[2023-11-02].https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf.
[3] VASWANI A,SHAZEER N,PARMAR N, et al. Attention Is All You Need[EB/OL].(2017-12-06)[2023-11-02].https://arxiv.org/pdf/1706.03762v5.pdf.
[4] OpenAI. GPT-4 Technical Report[EB/OL].(2023-03-27)[2023-11-02].https://arxiv.org/pdf/2303.08774.pdf.
[5] MIAO F, HOLMES W, HUANG R, et al. AI and education: guidance for policy-makers[EB/OL].(2021-04-09)[2023-11-02]. https://unesdoc.unesco.org/ark:/48223/pf0000376709.
[6] UNESCO. Recommendation on the Ethics of Artificial Intelligence[EB/OL]. (2021-11-23)[2023-11-02].https://unesdoc.unesco.org/ark:/48223/pf0000381137_eng.
[7] 黄荣怀,刘德建,徐晶晶等.教育机器人的发展现状与趋势[J].现代教育技术,2017,27(1):13-20.
[8] HUANG R H, LIU D, CHEN Y, et al. Learning for All with AI? 100 Influential Academic Articles of Educational Robots[R]. Beijing: Smart Learning Institute of Beijing Normal University, 2023.
[9] TLILI A, SHEHATA B, ADAEKWAH M, et al. What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education[J]. Smart Learn. Environ. 2023,10(15)https://doi.org/10.1186/s40561-023-00237-x.
[10] 夏立新,杨宗凯,黄荣怀,等.教育数字化与新时代教育变革(笔谈)[J].华中师范大学学报(人文社会科学版),2023,62(5):1-22.
[11] 黄荣怀,王欢欢,张慕华,等.面向智能时代的教育社会实验研究[J].电化教育研究,2020,41(10):5-14.
[12] 张绒.生成式人工智能技术对教育领域的影响:关于ChatGPT的专访[J].电化教育研究,2023,44(2):5-14.
Typical Scenarios and Governance of Educational Robot Application
Huang Ronghuai, Chen Ying, Ahmed Tlili
Beijing Normal University
Abstract: The rapid development of generative AI has triggered new concerns about the integration of intelligent technologies into education. Educational robot shows great potential in assisting teaching and learning, but it also brings new ethical and safety risks, so the research, regulation and governance of educational robots should be strengthened. We sort out seven typical application scenarios, including educational robots in STEM education, robot-oriented programming, language learning supported by social robots, etc., and propose the values and application suggestions of chatbot in school education through social media discourse analysis about ChatGPT. We also argue that a credible AI framework in education should be constructed, and intelligent technology governance should be carried out to provide guarantee for the high quality and sustainable development of education.
Keywords: AI; ChatGPT; educational robot; application scenarios; technological governance
本文发表在《中国现代教育装备》杂志2024年1月第1期，如有转载，请注明出处。