[摘 要] 伦理风险防范是开展人工智能教育应用的重要保障，需要以完善的伦理规范指标体系作为强有力的抓手。文章立足人工智能教育应用需由“浅”入“深”、学校教育人工智能伦理规划需从“无”到“有”和教师人工智能素养需由“弱”变“强”的迫切需求，遵循“国际参照+本土转化+数据验证”的方法路线，搭建了包含8个一级指标、21个二级指标和63个具体指标的人工智能教育应用伦理规范指标。基于规范指标，文章提出了其应用建议，包括遵循以人为本的价值导向、遵守安全可控和隐私保护的准入条件、贯彻可持续发展的应用准则、秉承公平全纳和相称无害的教育宗旨、落实透明可释和问责监督的保障机制。
[关键词] 人工智能教育应用；伦理风险；伦理规范；指标；学校
一、引 言
2024年2月20日，教育部发布《关于开展中小学人工智能教育基地推荐工作的通知》[1]，确定了184个中小学人工智能教育基地。人工智能在中小学教育中的应用发展迅速。然而，正如加勒特等人所言，“如果人工智能教育处于发展的婴儿阶段，那么人工智能伦理教育几乎是一个胚胎”[2]。人工智能在促进个性化学习、精准教学、智慧管理的同时，也给教育带来了隐私泄露、算法歧视、教育不公平加剧等风险。为应对风险的发生，教育界积极借鉴人工智能伦理风险解决办法，即“伦理探讨—原则研究—干预研究—法律规范”四段论[3]。当前，研究多处于第二阶段，即原则研究阶段，且呈现出了同质化趋势。伦理原则的遵循固然重要、必不可少，但是伦理实践同样重要[4]。如何将原则落地实施、转化为实践操作路径，尚无有效方法[5]。本研究基于国内外相关研究成果，立足我国人工智能教育应用现状，从为什么规范、如何规范及规范结果如何运用三方面整体思考和构建人工智能教育应用伦理规范指标。
二、人工智能教育应用伦理规范指标构建的逻辑基础
人工智能教育应用伦理规范指标的构建，需要呼应人工智能教育应用中的现实问题，防范潜在风险。在此基础上，深刻把握时代脉搏，利用人工智能促进教育高质量发展和实现优质均衡的数字教育，确保人工智能教育应用向善和向优发展。
（一）规范指标构建的迫切需求
人工智能教育应用持续深化，但相伴而生的风险还需进一步规范。人工智能教育应用由“浅水区”转至“深水区”，从“由点带面”到“纵深交错”。人工智能技术在教育中发挥正面效应的同时，也带来了负面效应。纵观之，伦理规范研究大多处于“呼吁”阶段，提出的实践方案浮于表面[6]，尚未制定规范框架、指导方针、政策法规[7]，且无评判标准。亟须开发人工智能教育应用伦理规范指标，检视人工智能教育应用是否合乎伦理。
学校人工智能教育应用逐渐广泛，但伦理规范仍需进一步加强。2022年，我国发布《中国关于加强人工智能伦理治理的立场文件》，提出“坚持伦理先行” [8]。就此，人工智能伦理规范研究如火如荼。当前，伦理规范研究中理论研究较多，实践落地较少。开发测评人工智能教育应用是否合乎规范的指标是一个突破口，学校始终秉承“伦理先行”观念，应用伦理规范指标开展自查，规范技术应用。
教师信息技术应用能力提升明显，但智能素养尚需进一步发展。智能时代对教师的智能素养提出了更高水平、更深层次的要求，智能教育伦理是关键[9]，只有教师具备人工智能伦理素养，方可在规范自身技术使用的同时，促进学生正确理解人工智能及其伦理问题[10]。然而，教师伦理素养受关注程度相对不足。伦理规范指标的构建，能为教师的技术使用提供规范参考，促进教师智能素养的长效发展。
（二）规范指标构建的时代价值
规范指标构建是保障人工智能助力教育高质量发展的“压舱石”。新兴技术加速推进教育高质量发展，也潜藏着阻碍其进程的伦理风险。伦理风险规避是推动教育高质量发展的内在要求。教育高质量发展不仅是为了质量和速度，更重要的是体现教育的向善性与和谐性[11]。伦理规范指标的构建能够及时规约伦理风险的发生，促进技术的合理、良善使用，有效削弱技术对教育高质量发展的阻碍作用。
规范指标构建是推进教育数字化转型朝向纵深发展的“指南针”。数字技术驱动数字化转型的同时，也潜藏着公平、责任、透明等伦理问题。忽视伦理风险的转型可能导致数字教育系统受到破坏而失衡，阻碍教育的可持续性发展[12]。伦理规范是推进教育数字化转型“良”“善”发展的方向指引。伦理规范指标的构建有助于及时发现伦理风险，采取适切措施响应教育生态系统对“善”的呼吁[13]，引导教育数字化转型朝向“良善”方向。
规范指标构建是加速学校实现优质均衡的数字教育的“防火墙”。新时代教育需以公益普惠和优质均衡为基本方向[14]。然而，以数据隐私泄露、算法偏见与歧视为代表的伦理风险频发，威胁学生权益，加剧教育不公，妨碍教育的优质均衡发展。伦理作为数字文化的一部分，指引着高文明的数字教育，是实现优质均衡数字教育的防线。伦理规范指标的构建，有利于学校及时检视并规避人工智能教育应用潜在风险，助力优质均衡数字教育的实现。
面对人工智能应用衍生出的伦理风险，需要提前布局，谨慎应对，制定一套规范指标[15]。在中小学人工智能教育应用普及开来之际，伦理规范也应当应时、应势而生，本研究旨在为中小学构建人工智能教育应用伦理规范指标，促进人工智能技术的高质量应用。
三、人工智能教育应用伦理规范指标构建的方法路线
原则主义的“原则—实践”思维逻辑为本研究的开展提供了理论借鉴。“伦理学原则是在一定条件下针对一些实践中遇到的问题提出和形成的”[16]，原则是行为的基本标准[17]。有必要明确基本的伦理原则，以判断人工智能教育应用实践的道德合理性问题[18]。因此，本研究以伦理原则为中介，遵从“国际参照—本土转化—数据验证”的方法路径，构建学校人工智能教育应用伦理规范指标。
（一）国际参照：共识性人工智能伦理原则的确立
斯坦福大学以人为本人工智能研究院于2023年发布AI Index Report 2023，发现滥用人工智能的事件数量正在迅速上升[19]。全球国际组织、机构和研究界均关注人工智能伦理风险，并提出了治理举措。梳理国际人工智能伦理治理文件发现，针对教育领域的文件较少[20]，且相关文件多强调遵守伦理准则，却没有可以将其转化为可实践的有效方法[21]。人工智能伦理原则是教育人工智能伦理原则的基础，具有参考价值，但是教育人工智能伦理是教育伦理和人工智能伦理多层交叠的产物，还需考虑教育的育人特性，制定一套适用于教育的伦理原则[22]。
运用系统性综述的方式分析全球人工智能伦理治理文件，归纳确立人工智能教育应用伦理原则。以“Artificial Intelligence Principles or Guidelines”（人工智能原则或准则）、“AI Principles or Guidelines”（AI原则或指南）、 “Ethical Artificial Intelligence”（合乎伦理的人工智能）、 “Ethical AI”（合乎伦理的AI）、“Responsible Artificial Intelligence”（负责任的人工智能）、“Responsible AI”（负责任的AI）、“Ethical Artificial Intelligence in Education”（教育人工智能伦理）、“Ethical AI in Education”（教育中合乎伦理的人工智能）、 “Artificial Intelligence in Education Ethical Principles or Guidelines”（人工智能教育应用伦理原则或指南） 以及“AIED Ethical Principles or Guidelines”（AIED伦理原则或指南）为关键词，检索2000年至2023年3月期间各国、国际组织和部门等发布的人工智能伦理治理政策文件及报告，阅读题目，选择可获得的文件，初步检索识别265份样本。经过三轮筛选，纳入17份与教育人工智能密切相关的文件，分析确立了九大人工智能教育应用伦理原则，包括：隐私保护（Protection of Privacy）、安全可控（Robustness, Security, and Safety）、透明可释（Transparency and Explainability）、算法公正（Non-discrimination）、公平全纳（Fairness and Inclusive）、相称无害（Proportionality and Doing No Harm）、问责监督（Accountability）、可持续发展（Sustainability）和以人为本（Human-Centric and Well-being）。
（二）本土转化：技术性规范相关法律法规的参考
构建人工智能教育应用伦理规范指标，以原则为基础，锚定教育人工智能实践，借鉴人工智能伦理规范。参考国际人工智能伦理治理文件，以九大伦理原则为规范指标的一级，探寻其可操作性定义。基于现实问题，采用文献梳理与内容分析相融合的方法，系统性翻译国际前沿资料，作出本土适应性转化，紧密结合我国现行政策，科学构建二级、三级指标。
二级指标确立是为九大一级指标转化为可操作实践的初步探索。首先，梳理已有研究中人工智能教育应用伦理原则的内涵与二级指标，作为分析资料，统计频次，初步归类。例如：“透明可释”概念受《教育工作者在教学中使用人工智能和数据的伦理准则》[23]的启发，提炼出可追溯性、可解释性和可沟通性3个二级指标，基于欧盟《可信赖的人工智能伦理准则》、联合国教科文组织《人工智能伦理问题建议书》、国际标准化协会《信息技术—人工智能—伦理和社会关注》等文件的核心思想进行国际参照，确保了其科学性与合理性；与此同时，该准则明确强调了实现多样化、非歧视和公平性的关键在于关注可访问性、通用设计、避免不公平偏见和利益相关者参与四个方面，与欧盟的《可信赖的人工智能伦理准则》《可信赖的教育人工智能框架V1.0》《可信赖人工智能评估清单》《可信赖人工智能自评清单》等文件中关于“公平全纳”理念的概念阐述一脉相承，将“公平全纳”细分为“全纳访问设计”和“公平参与使用”。其次，对于很难寻找到学理依据的一级指标，从现实出发，依据经验，拟定对应的二级指标。例如：“隐私保护”是为解决数据泄露和个体隐私权利受损这一现实问题，下设二级指标为“防止数据泄露”和“尊重主体权利”。对于“可持续发展”的探讨，紧密围绕教育领域的现实挑战与需求，基于过往实践经验，提炼出促进学校人工智能教育应用持续发展的三大关键路径，即“技术设备的持续优化”“师生素养的持续提升”和“利益相关方的协同合作”，简称“绿色使用”“素养提升”和“多方协同”。
三级指标确立是对二级指标的具体观测。梳理人工智能伦理治理文件及相关政策，探寻二级指标的可操作化路径。以“隐私保护”一级指标下的“防止数据泄露”和“尊重主体权利”两个二级指标为例，以下是三级指标的确立依据：其中，“防止数据泄露”主要分析了数据泄露可能发生的阶段，包括数据采集、存储、共享和使用等。为了防止数据泄露，学校需要在各环节严格控制并实施规范行为，遵守《教育部机关及直属事业单位教育数据管理办法》中第十、十六条的要求，采集教育数据遵循国家和教育部颁布的相关标准，按照无条件共享、有条件共享、不予共享三种类型分类存储数据，并利用匿名化和去标识化的方法加密处理敏感数据[24]。因此，“防止数据泄露”的三级指标包括：学校采集数据遵循国家和教育部标准；学校按照无条件共享、有条件共享和不予共享数据三种标准来存储数据；学校内部共享数据时会对敏感信息进行匿名化、去标识化等保密处理。“尊重主体权利”主要参考我国发布的《中华人民共和国个人信息保护法》中第四十四、四十五、四十六和四十七条法规，即个人对信息处理具有知情权、决定权、查阅权、删除权、更正权和补充权[25]。据此，确定“尊重主体权利”的三级指标包括：师生及家长对个人信息处理享有知情权和决定权、查阅权和删除权、更正权和补充权。其余二级指标转化为三级指标的依据见表1。
最后，研究初步构建了包括9个一级指标、22个二级指标和66个三级指标的学校人工智能教育应用伦理规范指标。
（三）数据验证：基于专家视角的规范指标的构建
人工智能教育应用伦理规范指标初步构建后，采用德尔菲法确定了其科学性、可靠性和可行性，采用层次分析法确定了权重。首先，通过两轮德尔菲专家征询，选择教育信息化、伦理学、人工智能教育应用等方向的22位专家，设计专家咨询表，计算专家的积极系数（包括学术水平、判断依据和熟悉程度）、权威系数和协调程度，确定学校人工智能教育应用伦理规范指标最终版本，包括8个一级指标、21个二级指标和63个三级指标。在第一轮德尔菲专家征询期间，有专家指出，算法公正和公平全纳两个一级指标似有重叠，建议合并，查阅资料后，发现在教育教学过程中的确很难过多关注背后的算法，而更多聚焦于使用层面，即如何避免算法对学习者的歧视。因此，笔者将“算法公正”和“公平全纳”合并为“公平全纳”，并糅合原有的二级指标，最终确定了“公平全纳”这个一级指标包括的三个二级指标，即“避免算法歧视”“全纳访问设计”和“公平参与使用”。由此，人工智能教育应用伦理规范指标从初始版本的9个一级指标、22个二级指标和66个三级指标变为了最终版本的8个一级指标、21个二级指标和63个三级指标。
其次，采用层次分析法，建立层次模型，向各位专家发放各级指标的判断矩阵问卷，运用yaahp软件分析判断矩阵结果，包括被比较指标的相对权重、单层次一致性检验和组合权重，进而确定人工智能教育应用伦理规范指标权重，见表2。
四、人工智能教育应用伦理规范指标的应用建议
人工智能教育应用越来越普及，防范人工智能教育应用伦理风险日益迫切。如何有效采用人工智能教育应用伦理规范指标，促进人工智能教育应用的良善发展？下文以8个一级指标为切入点，提出具体策略，以促进规范指标的有效实践，以期为学校构建既合乎伦理又能激发技术潜力的良性生态体系。
（一）遵循以人为本的价值导向
以人为本是规范人工智能并促进其长足发展的基础[37]，是人工智能教育应用的价值导向，学校可在人工智能技术/产品引入之初、短期实践和长远规划中将以人为本的价值导向具象化。其一，学校引入的智能技术/产品需符合人类价值观。人工智能技术/产品设计伊始，人本人工智能致力于确保人类价值观是人工智能系统开发、部署、使用和监控的核心，确保尊重基本权利[28]。其二，学校在短期应用人工智能技术过程中，需符合教育管理部门制定的相关标准、使用指南和自评清单，完善技术评估和管理机制，确保良性人工智能教育应用。其三，学校在长远规划下，需秉持以人为本的理念，发展人本人工智能，推动人工智能与人类智能的深度融合[38]；教师需不断提升智能伦理素养，将其视为教育人工智能伦理风险消解的接续动力[39]。
（二）遵守安全可控和隐私保护的准入条件
安全可控和隐私保护是学校引入人工智能技术/产品的第一道防线，是智能体进校园的准入条件，确保数据不被滥用，抵御漏洞和恶意攻击，使得决策结果具有高准确性、可靠性和可重复性[40]，保障各利益主体（如教师、家长、学生等）的权利得到尊重、保护和促进。为确保隐私保护的落地实践，学校在使用人工智能时，必须遵守相关的法律规定，保护利益主体的隐私权利，确保数据的安全性和合法性。为保障安全可控的实践可为，学校在应用人工智能时，需防止技术漏洞导致的安全问题以及生成内容和资源的有害性，解决、预防和消除相关问题，确保技术和决策结果受到人的控制。
（三）贯彻可持续发展的应用准则
可持续发展是人工智能技术及其作用域的发展目标，是人工智能在教育应用中的准则。教育系统作为社会子系统，其自身的可持续发展对社会的可持续发展至关重要。教育的目标不应是改变学生的行为，使其朝着预定的方向发展，而应是使他们能够作出知情和有意识的决定，参与可持续发展的行动[41]。学校作为实践基地，应向使用者贯彻“技术的可持续发展”应用观。第一，激发师生积极使用技术的内生动力，让师生切身体会技术对教、学、管、考、评的深刻变革作用，投入更多时间和精力到创造性活动中；第二，唤醒师生规范应用技术的伦理自觉，教师在利用数字技术促进学生健康发展时，学生在利用数字技术促进自身发展时，都应遵守伦理规范。
（四）秉承公平全纳和相称无害的教育宗旨
公平全纳和相称无害是人工智能教育应用的基本宗旨。公平全纳是实现教育可持续发展的途径，是助力全球贫困消除的关键作用域；相称无害是教育目标和技术应用相称的保障，是促进合乎伦理的人工智能教育应用的必然把握。学校为落实公平全纳和相称无害，应在人工智能技术/产品引入和应用过程中采取措施。首先，在引入人工智能技术/产品时，学校可要求供应商提供训练数据样本，确保技术/产品设计过程中收集的训练数据来源真实、准确、无偏见且具有代表性。其次，在应用人工智能技术时，学校需使教师明白：人机协作，综合评判，客观评价，施行人性化教育；技术使用并非多多益善，过度或不当使用均会降低学习体验，甚至造成负面影响，需要明晰技术的强效域和局限域，作出理智决策。
（五）落实透明可释和问责监督的保障机制
透明可释和问责监督是人机信任的关键，也是技术普及的重要关注点。问责监督与透明可释密切相关，只有清晰可见的决策过程和结果，方能助力更好问责。透明可释是人工智能教育应用的关键特征，确保教育工作者了解人工智能系统的决策和交互过程。学校需要清晰记录技术参与教学的全过程，确保决策的可追溯、可解释和可沟通，提高技术的可靠性和可信度，增强人机信任，促进人机协同。问责监督是人工智能教育应用的强力保障，旨在预防潜在的负面影响，并尽可能将已经发生的负面影响降至最低。学校需要构建公开、透明的监督和评估制度，让使用者全面了解技术，增强信任感，熟练应用技术促进教与学的最优化。
五、结 束 语
人工智能技术应用于教育日益深入，为确保教育高质量公平发展，伦理风险的防范刻不容缓。本研究构建了人工智能教育应用伦理规范指标，是原则转化为实践的初步探索，有助于学校规避相关伦理风险的发生。然而当前，规范指标仍主要聚焦于共性层面，尚未充分考虑不同水平、层级学校的特异性需求。未来研究可选取人工智能教育试点区域和学校，深入挖掘学校的个性化特征，针对不同学校和师生的实际情况，以规范指标为基准进行适应性调整。通过构建多指标、多层次的评估体系，更全面地了解各学校在人工智能教育应用方面的实际情况，促进学校制定更加个性化的人工智能教育应用校本指南，推动学校人工智能教育应用的健康发展，深化教育数字化转型进程，助推教育高质量优质均衡发展。
本文发表于《电化教育研究》2024年第10期，转载请与电化教育研究杂志社编辑部联系(官方邮箱：dhjyyj@163.com)。
引用请注明参考文献：杨俊锋，褚娟，张斌贤. 人工智能教育应用伦理规范指标构建研究[J]. 电化教育研究，2024，45(10)：19-27.
【参考文献】
[1] 教育部办公厅. 教育部办公厅关于开展中小学人工智能教育基地推荐工作的通知[EB/OL]. （2024-02-19）[2024-07-10]. http：//www.moe.gov.cn/srcsite/A06/s3321/202402/t20240223_1116386.html.
[2] GARRETT N， BEARD N， FIESLER C. More than “if time allows” the role of ethics in AI education[C]//MARKHAM A， POWLES J， WALSH T， et al. Proceedings of the AAAI/ACM Conference on AI， Ethics， and Society. New York：Association for Computing Machinery，2020：272-278.
[3] 余雅风，王朝夷. 由技术伦理向法律规范演进：国外人工智能应用规范研究综述[J]. 河北法学，2023，41（2）：83-101.
[4] FLORIDI L. Translating principles into practices of digital ethics：five risks of being unethical[J]. Philosophy & technology，2019，32（2）：185-193.
[5] MITTELSTADT B. Principles alone cannot guarantee ethical AI[J]. Nature machine intelligence， 2019，1（11）：501-507.
[6] 谢娟. 人工智能与教育融合创新之伦理内涵及实现路径[J]. 中国远程教育，2023，43（2）：1-8.
[7] HOLMES W， BEKTIK D， WOOLF B， et al. Ethics in AIED：who cares? [C]//BITTENCOURT I， CUKUROVA M， MULDNER K， et al. 20th International Conference on Artificial Intelligence in Education. Chicago：Open Research Online， 2019：424-425.
[8] 外交部. 中国关于加强人工智能伦理治理的立场文件[EB/OL]. （2022-11-17）[2024-07-10]. https：//www.mfa.gov.cn/web/ziliao_674904/tytj_674911/zcwj_674915/202211/t20221117_10976728.shtml.
[9] 郑智勇，宋乃庆. 中小学教师智能教育素养测评指标体系构建研究[J]. 中国电化教育，2023（12）：75-83.
[10] 李艳，朱雨萌，樊小雨. 青少年人工智能伦理教育的探索及启示——以MIT为例[J]. 现代远距离教育，2024（1）：3-13.
[11] 廖婧茜. 基础教育高质量发展的伦理诉求及其实现[J]. 教育研究与实验，2023（4）：41-49.
[12] 赵磊磊，赵玉洁，张黎. 数字化转型背景下教育技术伦理观照与风险消解[J]. 中国远程教育，2023，43（12）：46-58.
[13] 刘秀秀. 技术向善何以可能：机制、路径与探索[J]. 福建论坛（人文社会科学版），2020（8）：83-91.
[14] 国务院. 关于构建优质均衡的基本公共教育服务体系的意见[EB/OL]. （2023-06-13）[2024-07-10]. https：//www.gov.cn/gongbao/2023/issue_10546/202306/content_6888957.html.
[15] 于珍. AI进校园，边界在哪里？[N]. 中国教育报，2019-10-24 （4）.
[16] 翟晓梅，邱仁宗. 生命伦理学导论[M]. 北京：清华大学出版社，2005：51.
[17] 铁小茜，赵昆. 原则主义在医学伦理学领域的出场逻辑[J]. 医学与哲学，2023，44（6）：18-22.
[18] 陈化. 原则主义的理论进路、伦理争论及其启示[J]. 医学与哲学，2023，44（6）：1-6.
[19] MASLEJ N， FATTORINI L， BRYNJOLFSSON E， et al. Artificial intelligence index report 2023 [EB/OL].（2023-04-03）[2024-07-10]. https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf.
[20] SCHIFF D. Education for AI， not AI for education：the role of education and ethics in national AI policy strategies[J]. International journal of artificial intelligence in education， 2022，32（3）：527-563.
[21] KIM H. Suggestions on teaching and learning AI ethics using cooperative learning method in elementary and secondary education[J]. Robotics & AI ethics， 2022，7（1）：65-75.
[22] NGUYEN A， NGO H， HONGY， et al. Ethical principles for artificial intelligence in education[J]. Education and information technologies， 2023，28（4）：4221-4241.
[23] European Commission. Ethical guidelines on the use of artificial intelligence （AI） and data in teaching and learning for educators [EB/OL]. （2022-10-25）[2024-07-11]. https://education.ec.europa.eu/news/ethical-guidelines-on-the-use-of-artificial-intelligence-and-data-in-teaching-and-learning-for-educators.
[24] 教育部. 教育部办公厅关于印发《教育部机关及直属事业单位教育数据管理办法》的通知[EB/OL]. （2018-01-23） [2024-07-14] http://www.moe.gov.cn/srcsite/A03/s7050/201802/t20180211_327248.html．
[25] 中华人民共和国中央人民政府.中华人民共和国个人信息保护法[EB/OL]. （2021-08-20） [2024-07-14]. https://www.gov.cn/xinwen/2021-08/20/content_5632486.htm．
[26] 国家人工智能标准化总体组 全国信标委人工智能分委会. 人工智能伦理治理标准化指南（2023版）[EB/OL]. （2023-03-16）[2024-09-05]. http://www.nits.org.cn/index/article/4133.
[27] Association for Computing Machinery. ACM Code of Ethics and Professional Conduct[EB/OL]. （2018-02-10） [2024-09-05]. https://www.acm.org/code-of-ethics.
[28] European Commission. Ethics guidelines for trustworthy AI [EB/OL]. （2019-04-08）[2024-07-10]. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai.
[29] UNESCO Institute for lnformation Technologies in Education. Report on national smart education framework[EB/OL]. （2022-12-13）[2024-09-05]. https://iite.unesco.org/publications/report-on-national-smart-education-framework/.
[30] ISO/IEC TR 24368：2022. Information technology-artificial intelligence-overview of ethical and societal concerns[EB/OL]. （2022-08-01）[2024-09-05]. https://www.iso.org/standard/78507.html.
[31] Australian Institute for Teaching and School Leadership Limited（AITSL）. Australian professional standards for teachers[EB/OL]. （2012-07-27）[2024-09-05]. https://www.aitsl.edu.au/standards.
[32] European Commission. The Assessment list for trustworthy artificial intelligence（ALTAI） for self assessment [EB/OL]. （2020-07-17）[2024-09-05]. https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment.
[33] UNESCO. Recommendation on the ethics of artificial intelligence[EB/OL]. （2021-11-23）[2024-09-05]. https://unesdoc.unesco.org/ark：/48223/pf0000381137.
[34] THE UNIVERSITY OF BUCKINGHAM. Interim report -towards a shared vision of ethical AI in education[EB/OL]. （2021-03-23）[2024-09-05]. https://www.buckingham.ac.uk/research/research-in-applied-computing/the-institute-for-ethical-ai-in-education/.
[35] 中华人民共和国教育部. 教育部关于发布《中小学数字校园建设规范（试行）》的通知[EB/OL]. （2018-04-17）[2024-09-05]. http://www.moe.gov.cn/srcsite/A16/s3342/201805/t20180502_334759.html.
[36] 中华人民共和国教育部. 《未成年人学校保护规定》[EB/OL]. （2021-06-01）[2024-09-05]. http://www.moe.gov.cn/srcsite/A02/s5911/moe_621/202106/t20210601_534640.html.
[37] 祝智庭，韩中美，黄昌勤. 教育人工智能（eAI）：人本人工智能的新范式[J]. 电化教育研究，2021，42（1）：5-15.
[38] 祝智庭，戴岭，赵晓伟. “近未来”人机协同教育发展新思路[J]. 开放教育研究，2023，29（5）：4-13.
[39] 李艳. 青少年人工智能伦理教育初探[N]. 浙江教育报，2023-03-03（5）.
[40] 沈苑，汪琼. 人工智能在教育中应用的伦理考量——从教育视角解读欧盟《可信赖的人工智能伦理准则》[J]. 北京大学教育评论，2019，17（4）：18-34，184.
[41] SINAKOUE， DONCHE V， VAN PETEGEM P. Action-orientation in education for sustainable development：teachers’ interests and instructional practices[J]. Journal of cleaner production， 2022，370：133469.
Research on the Construction of Ethical Norms for Application of Artificial Intelligence in Education
YANG Junfeng1, CHU Juan2, ZHANG Binxian3
（1.Jing Hengyi School of Education, Hangzhou Normal University, Hangzhou Zhejiang 311121;
2.School of Educational Technology, Northwest Normal University, Lanzhou Gansu 730070;
3.Faculty of Education, Beijing Normal University, Beijing 100875)
[Abstract] The prevention of ethical risks is an essential safeguard for the application of artificial intelligence in education (AIED), which requires a perfect indicator system of ethical norms. Based on the urgent needs for the application of AIED to progress from the shallower to the deeper, for the ethical planning of AIED from scratch, and for the enhancement of teachers’ artificial intelligence literacy, this paper constructs the ethical norm indicators for the application of AIED following the methodological route of “international reference + local transformation + data validation”, which includes 8 primary indicators, 21 secondary indicators and 63 specific indicators. Based on the normative indicators, this paper proposes some application suggestions, including adhering to a human-centered value orientation, complying with secure, controllable and privacy-protected access conditions, implementing the application guidelines for sustainable development, upholding the educational purpose of fairness, inclusiveness, and proportionality without harm, and establishing a guarantee mechanism of transparency, accountability and supervision.
[Keywords] Application of Artificial Intelligence in Education; Ethical Risks; Ethical Norms; Indicators; Schools
基金项目：2022年国家社科基金重点课题“人工智能教育场景应用的伦理与限度”（课题编号：ACA220027）
[作者简介] 杨俊锋（1981—），男，河南平顶山人。教授，博士，主要从事智慧教育与人工智能教育应用研究。E-mail：yjf@hznu.edu.cn。