Ronghuai Huang, Ying Chen y Ahmed Tlili: aplicaciones típicas y gobernanza de robots educativos

Este artículo de Ronghuai Huang, Ying Chen y Ahmed Tlili apareció en China Modern Educational Equipment, número 1 de 2024, y trata principalmente materiales de 2022–2023. Se conserva todo su alcance, con correcciones y notas de contexto al final. El resumen inglés original se archiva por separado.

Ronghuai Huang, Ying Chen, Ahmed Tlili

Universidad Normal de Beijing

Resumen y antecedentes

Resumen: El rápido desarrollo de la IA generativa, incluidos los algoritmos generativos y los grandes modelos lingüísticos, ha renovado la preocupación por la incorporación de tecnologías inteligentes a la educación. Los robots creados específicamente para contextos educativos muestran gran potencial para apoyar la enseñanza y el aprendizaje, pero plantean riesgos éticos y de seguridad que requieren investigación, regulación y gobernanza. A partir de los avances internacionales de la IA educativa, se identifican siete escenarios, como la robótica en STEM, la programación orientada a robots y el aprendizaje de idiomas con robots sociales. Mediante el caso de ChatGPT y el análisis del discurso en redes sociales, se examinan el valor de los chatbots y las sugerencias para su uso escolar.

Se propone un marco de IA educativa confiable con robustez, legalidad, cumplimiento normativo y aceptabilidad ética, y una gobernanza que favorezca una educación de calidad y sostenible.

Palabras clave: inteligencia artificial; ChatGPT; robots educativos; escenarios de aplicación; gobernanza tecnológica

Una nueva generación de IA impulsa los avances tecnológicos, la modernización industrial y el crecimiento de la productividad. ChatGPT, publicado a finales de 2022, renovó la atención hacia la IA [1], suscitó preocupación por la sustitución de personas por máquinas y llevó a los educadores a reconsiderar sus perspectivas y el futuro de la educación.

Los robots educativos son parte importante de los entornos educativos inteligentes. Investigadores e instituciones de todo el mundo han estudiado sus aplicaciones. La rápida evolución tecnológica y la creciente presencia de robots hacen necesario seguir los avances internacionales, estudiar escenarios, valorar su utilidad escolar e identificar riesgos y amenazas, como base de una gobernanza centrada en las personas.

1. Avances de la IA y tendencias internacionales en IA educativa

El Instituto de Inteligencia Artificial Centrada en el Ser Humano de Stanford, Stanford HAI, publicó el Artificial Intelligence Index Report 2023 [2] sobre avances y tendencias mundiales. El artículo original destacó tres asuntos: la industria por delante del ámbito académico, un mayor apoyo de los responsables de políticas y las diferencias de opinión entre países. En la encuesta de Ipsos de 2022 citada, el 78% de los participantes chinos estuvo de acuerdo en que los productos y servicios de IA tenían más beneficios que inconvenientes, frente al 35% de los estadounidenses. Son tasas de acuerdo de las muestras respecto de esa pregunta concreta. La muestra china registró la mayor tasa de acuerdo entre los países encuestados.

El artículo trata los algoritmos generativos, los grandes modelos lingüísticos y la multimodalidad como tres aspectos tecnológicos de la IA generativa. Transformer, empleado en modelos que sustentan ChatGPT, es una arquitectura basada en atención, no el nombre de un modelo lingüístico concreto. La autoatención relaciona posiciones de una secuencia para calcular representaciones [3]. Los autores sostienen que un chatbot ofrece información difícil de obtener mediante la consulta tradicional de diccionarios y ejemplifican la desambiguación contextual con “the doors of the jaguar were open”, donde jaguar designa la marca de automóvil, y “the jaguar made a howling noise”, donde designa el animal. Son ejemplos ilustrativos del artículo.

El informe técnico de GPT-4 [4] describe resultados en pruebas profesionales y académicas, incluido un rendimiento aproximadamente en el decil superior de un examen simulado de abogacía de Estados Unidos. El resultado corresponde a GPT-4 en una prueba concreta.

La guía de la UNESCO de abril de 2021 sobre IA y educación para responsables de políticas [5] explica que las aplicaciones dependen de tecnologías complejas: IA tradicional, aprendizaje automático, redes neuronales artificiales y aprendizaje profundo. Generan aplicaciones cada vez más ofrecidas como servicios: procesamiento del lenguaje natural, reconocimiento del habla, reconocimiento y tratamiento de imágenes, agentes autónomos, detección de emociones, minería predictiva de datos y creatividad artificial.

Se distinguen tres ámbitos educativos: provisión y gestión; aprendizaje y evaluación, incluidos tutoría inteligente, aprendizaje colaborativo con IA, realidad virtual y aumentada y entornos de exploración; y empoderamiento docente y mejora de la enseñanza, con seguimiento de foros mediante IA, modelos de doble docente humano–IA y asistentes de enseñanza.

Con el desarrollo de la IA educativa, los robots y otras aplicaciones siguen generando debate. El potencial de ChatGPT para preparar clases y apoyar el aprendizaje autónomo también plantea cuestiones éticas y de seguridad que exigen regulación y gobernanza. La Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial de noviembre de 2021 [6] identifica cuatro valores: respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad; prosperidad ambiental y de los ecosistemas; diversidad e inclusión; y sociedades pacíficas, justas e interconectadas. Establece diez principios y once ámbitos de actuación política. Este marco mundial reafirma los valores centrados en las personas y orienta el uso de la IA para el beneficio humano.

2. Escenarios típicos de aplicación de robots educativos

Los robots educativos se desarrollan para fomentar capacidades analíticas, creativas y prácticas. Sus características incluyen adecuación docente, apertura, extensibilidad e interacción amistosa entre personas y robots. El artículo distingue educación en robótica y robots de servicios educativos [7]. La primera comprende actividades, cursos, plataformas físicas, recursos y filosofías educativas. Los segundos incorporan funciones de enseñanza y aprendizaje y apoyan docencia y gestión en STEM, idiomas y aprendizaje de grupos específicos.

Los autores seleccionaron por impacto de citas, representatividad y relevancia para tendencias emergentes y agruparon 100 artículos influyentes del decenio anterior. Identificaron siete temas de investigación, considerados aquí escenarios típicos de aplicación [8].

2.1 Robots en educación STEM

La investigación aborda cuatro ámbitos: currículos STEM con robots, incluidas situaciones, modelos, grupos y resultados de aprendizaje; desarrollo del pensamiento computacional, la metacognición y la resolución de problemas; entornos prácticos y útiles para aprender STEM; y percepciones y experiencias de docentes y estudiantes, como aceptación, confianza, actitudes, seguridad personal, interés y ansiedad.

2.2 Programación orientada a robots

La programación para robots puede estudiarse desde la primera infancia hasta la adolescencia y etapas posteriores. En infantil se enfatiza experimentar el pensamiento computacional; en primaria, desarrollarlo; en secundaria, creatividad, destrezas prácticas, colaboración y resolución de problemas; y en la universidad, mayor participación en clase.

2.3 Aprendizaje de idiomas con robots sociales

Los robots sociales pueden apoyar el inicio del aprendizaje lingüístico infantil y el aprendizaje multilingüe adulto. Se estudia cómo distintas formas de robot desarrollan vocabulario, lectura, expresión oral, gramática y lengua de signos, y cómo apoyan segundas lenguas en adultos y amplían las oportunidades más allá del aula, en distintos momentos y lugares.

2.4 Robots en la enseñanza de aula

Se investiga cómo la robótica transforma la enseñanza, visualiza conocimientos abstractos y desarrolla el pensamiento sistémico. En la educación escolar suele estudiarse en materias básicas para mejorar comprensión conceptual y participación. En educación superior se emplea a menudo en cursos de ingeniería de distintas especialidades, para superar limitaciones metodológicas y apoyar la comprensión de conceptos abstractos y el diseño de sistemas.

2.5 Educación especial asistida por robots

Este campo incluye a estudiantes como los niños autistas y examina cómo los robots pueden apoyar comunicación e interacción social en tareas determinadas. El artículo identifica cuatro usos y objetivos: robots como tutores o herramientas para habilidades musicales o teatrales; apoyo a habilidades sociales verbales y no verbales, imitación y relaciones; exploración de efectos sobre dificultades conductuales y emocionales; y robots como plataforma o mediador entre niños y tutores humanos, evaluando los resultados de la intervención. Son líneas de investigación y potenciales aplicaciones, no garantías de beneficio para todos los niños.

2.6 Robots de entrenamiento cognitivo para personas mayores

Se investigan posibles efectos sobre memoria, lenguaje y estado emocional en personas mayores con deterioro cognitivo, junto con su aceptación y la de otros interesados. Se identifican dos líneas: evaluación empírica de efectos sobre capacidades cognitivas y estudios de aceptación por mayores y grupos relacionados.

2.7 Tutoría personalizada con agentes conversacionales

Los robots conversacionales son una forma de tutoría inteligente, con funciones presentes en programas de idiomas, sistemas de aprendizaje de materias y plataformas sociales. Los autores anticipan interés en una nueva generación basada en generación de lenguaje natural y en tecnologías AIGC y LLM, ética, inclusión, usabilidad, experiencia del usuario, integridad académica y colaboración entre personas e IA.

3. Valor de los chatbots en la educación escolar: ChatGPT

ChatGPT es un chatbot basado en modelos Transformer generativos preentrenados que interactúa mediante lenguaje natural y genera contenido siguiendo instrucciones. El original considera también el potencial multimodal. El caso y las observaciones de experiencia que siguen se refieren a finales de 2022 y principios de 2023. Los autores ven posibilidades de mejorar la eficiencia del aprendizaje y problemas de integridad, privacidad y seguridad de datos. Entonces se debatían dos ámbitos: escasez de recursos, desajustes entre tecnología y tareas docentes, regulación y responsabilidad, seguridad, necesidades desatendidas, diseño conversacional y calidad del contenido; y bloqueo escolar de redes por temor al fraude. Las restricciones de emergencia podían evitar riesgos y también excluir ventajas y oportunidades [9].

Los autores examinaron casos de uso educativo en China, Estados Unidos y otros contextos mediante tres fases: observación de plataformas sociales, análisis de entrevistas y análisis de experiencia de uso, identificando cuestiones y formulando sugerencias.

3.1 Discurso público y actitudes

La búsqueda combinó ChatGPT con educación, enseñanza o aprendizaje y reunió 2330 tuits de 1530 usuarios de Twitter entre el 23 de diciembre de 2022 y el 6 de enero de 2023, sometidos a análisis de sentimiento y t-SNE. El original señala dispersión temática y falta de consenso colectivo, reflexión crítica, preocupación y términos como fraude y seguridad de la información. El estudio citado clasificó el 5% de los tuits como positivos y el 2,5% como negativos; el 92,5% no se asignó a ninguna categoría. Esto no significa que el 92,5% de los usuarios fuera neutral. Los investigadores también interpretaron agrupaciones léxicas como indicios de optimismo y recomendaron cautela. Esa interpretación y las categorías de sentimiento deben distinguirse y no generalizarse a toda la población.

3.2 Análisis de entrevistas

Los participantes consideraban generalmente importante a ChatGPT para el cambio educativo, aunque expresaban inquietudes. Las entrevistas se analizaron desde cinco perspectivas: transformación educativa, calidad de respuesta, utilidad, personalidad y emoción, y ética.

Surgieron cinco observaciones. Primera: el acceso en lenguaje natural a conocimientos diversos podía apoyar aprendizaje, cambio docente y digitalización. Segunda: la mayoría estaba satisfecha con calidad y precisión, pero señalaba el período de conocimiento del sistema inicial y respuestas erróneas; las instrucciones también afectaban a la calidad. Tercera: la mayoría encontraba la conversación fluida y divertida, aunque aquella interfaz textual no reconocía lenguaje corporal ni gestos, dejando para investigación su carácter humano y social. Cuarta: información temática y respuesta inmediata podían reducir cargas docentes, pero las limitaciones contextuales y contradicciones llevaron a proponer mejores anotaciones y recuperación de información previa para apoyar la investigación.

Quinta: participantes y autores temían que la dependencia excesiva debilitase aprendizaje activo, creatividad y pensamiento crítico y favoreciese plagio o fraude, junto con sesgos, falsedades y riesgos para datos y privacidad. Son observaciones e interpretaciones históricas de entrevistas, no medidas causales de resultados para todos los estudiantes.

3.3 Sugerencias para el uso educativo

A partir del análisis, los autores proponen seis orientaciones para el uso educativo de ChatGPT:

1. Adoptar con reflexión en vez de prohibir sin más. Reconocer efectos positivos y negativos y estudiar el buen uso escolar. Especialistas en educación, seguridad y psicología deberían colaborar y las autoridades elaborar directrices y políticas de uso seguro y eficaz.
2. Actualizar el pensamiento educativo. Con ChatGPT integrado, la memorización mecánica de conocimientos y el procesamiento textual simple deberían recibir menos énfasis. El profesorado debería desarrollar razonamiento lógico y crítico. El debate oral, como en la tradición estoica antigua, permite evaluar pensamiento, razonabilidad y precisión de argumentos y capacidad persuasiva. El diseño educativo humano–IA debería incorporar tareas prácticas, exposiciones orales y nuevas evaluaciones.
3. No aceptar resultados sin examinarlos. Al no estar garantizada la precisión, los docentes deberían desarrollar discernimiento informativo y orientar la evaluación y el uso de los textos generados.
4. Mejorar la capacidad de uso. La interacción influye en el acceso a información y la eficiencia del aprendizaje; conviene desarrollar pensamiento, formulación de preguntas y uso de modelos lingüísticos y fuentes de datos para aprender.
5. Investigar robots más centrados en las personas. La mayoría de los chatbots de entonces estaba orientada a tareas y carecía de dimensión emocional, reduciendo el valor afectivo y la inmersión. Se propone partir de la teoría de la interacción social y estudiar efectos psicológicos y académicos.
6. Atender especialmente a la ética. La información falsa o perjudicial puede dañar a estudiantes. El diseño debería centrarse en el alumnado, respetar leyes y ética, buscar transparencia y explicabilidad algorítmicas y considerar factores sociales, emocionales, cognitivos y pedagógicos.

4. Regulación de escenarios y gobernanza de robots educativos

La expansión de la robótica educativa puede introducir riesgos éticos y de seguridad. Integrar ordenadamente la IA es un interés común. Los autores proponen analizar objetivamente necesidades, potencial y desafíos, y el grado de integración con enseñanza y aprendizaje y de confiabilidad. Plantean un marco de IA educativa confiable con cuatro criterios: robustez, legalidad, cumplimiento normativo y aceptabilidad ética. La gobernanza de una sociedad inteligente debería utilizar la IA para una gestión educativa precisa y sostenida y un desarrollo de calidad y sostenible [10].

Los autores identifican cinco preocupaciones centrales para la gobernanza de la IA educativa:

1. Desarrollar ordenadamente la alfabetización y las competencias digitales de docentes y estudiantes. Mejorar el uso y control de robots y, en particular, obtener, distinguir, verificar, seleccionar e integrar información para aprender y trabajar en colaboración humano–IA.
2. Establecer un sistema de admisión de productos de IA en centros educativos. Estudiar su clasificación y graduación; las autoridades deberían desarrollar revisión, supervisión y rendición de cuentas, incluidas leyes, políticas, normas institucionales y gestión, para un desarrollo saludable.
3. Reforzar los experimentos sociales de IA educativa. Utilizar evidencia para analizar efectos a largo plazo sobre enseñanza y aprendizaje y patrones de cambio. Profundizar en metodología y normas experimentales y construir gradualmente un sistema de experimentación social educativa [11].
4. Precisar escenarios educativos. Analizar la relación entre necesidades reales y oferta tecnológica y entre características cognitivas y entornos inteligentes. Examinar tiempo, lugar, participantes, recursos, funciones y materias; identificar conocimientos adecuados y conectar robots y contenido disciplinar.
5. Proteger privacidad y datos. Los autores advertían de que normas y supervisión incompletas podían permitir intrusiones, filtraciones, discriminación y mayor brecha educativa. Pedían productos generativos éticos, seguros, controlables y adecuados para docentes y alumnado, con protección de datos y privacidad [12].

Referencias

1. 吴砥,李环,陈旭.人工智能通用大模型教育应用影响探析[J].开放教育研究,2023,29(2):19-25,45.
2. MASLEJ N, FATTORINI L, BRYNJOLFSSON E, et al. Artificial Intelligence Index Report 2023[EB/OL].(2023-04-03)[2023-11-02].https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf.
3. VASWANI A,SHAZEER N,PARMAR N, et al. Attention Is All You Need[EB/OL].(2017-12-06)[2023-11-02].https://arxiv.org/pdf/1706.03762v5.pdf.
4. OpenAI. GPT-4 Technical Report[EB/OL].(2023-03-27)[2023-11-02].https://arxiv.org/pdf/2303.08774.pdf.
5. MIAO F, HOLMES W, HUANG R, et al. AI and education: guidance for policy-makers[EB/OL].(2021-04-09)[2023-11-02]. https://unesdoc.unesco.org/ark:/48223/pf0000376709.
6. UNESCO. Recommendation on the Ethics of Artificial Intelligence[EB/OL]. (2021-11-23)[2023-11-02].https://unesdoc.unesco.org/ark:/48223/pf0000381137_eng.
7. 黄荣怀,刘德建,徐晶晶等.教育机器人的发展现状与趋势[J].现代教育技术,2017,27(1):13-20.
8. HUANG R H, LIU D, CHEN Y, et al. Learning for All with AI? 100 Influential Academic Articles of Educational Robots[R]. Beijing: Smart Learning Institute of Beijing Normal University, 2023.
9. TLILI A, SHEHATA B, ADARKWAH M, et al. What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education[J]. Smart Learn. Environ. 2023,10:15. https://doi.org/10.1186/s40561-023-00237-x.
10. 夏立新,杨宗凯,黄荣怀,等.教育数字化与新时代教育变革(笔谈)[J].华中师范大学学报(人文社会科学版),2023,62(5):1-22.
11. 黄荣怀,王欢欢,张慕华,等.面向智能时代的教育社会实验研究[J].电化教育研究,2020,41(10):5-14.
12. 张绒.生成式人工智能技术对教育领域的影响:关于ChatGPT的专访[J].电化教育研究,2023,44(2):5-14.

Información inglesa original de la revista

Typical Scenarios and Governance of Educational Robot Application

Huang Ronghuai, Chen Ying, Ahmed Tlili

Beijing Normal University

Abstract: The rapid development of generative AI has triggered new concerns about the integration of intelligent technologies into education. Educational robot shows great potential in assisting teaching and learning, but it also brings new ethical and safety risks, so the research, regulation and governance of educational robots should be strengthened. We sort out seven typical application scenarios, including educational robots in STEM education, robot-oriented programming, language learning supported by social robots, etc., and propose the values and application suggestions of chatbot in school education through social media discourse analysis about ChatGPT. We also argue that a credible AI framework in education should be constructed, and intelligent technology governance should be carried out to provide guarantee for the high quality and sustainable development of education.

Keywords: AI; ChatGPT; educational robot; application scenarios; technological governance

Notas editoriales y contexto de investigación

1. Datos editoriales: 2024(1), páginas 1–4 y 8; DOI 10.13492/j.cnki.cmee.2024.01.006. Los corroboran el perfil del autor en BNU y la bibliografía de SLI. En la referencia [9] se corrige el apellido a Adarkwah y se normalizan el volumen y el número de artículo como 10, 15. Perfil del autor en BNU; Bibliografía de SLI; Estudio citado de 2023
2. La Recomendación de la UNESCO contiene cuatro valores, diez principios y once ámbitos políticos. Se corrige el número siete y la referencia a ecosistemas naturales, no sistemas de IA. Recomendación de la UNESCO
3. El 78% y el 35% se refieren a una pregunta concreta de Ipsos de 2022 sobre beneficios e inconvenientes, no a apoyo general actual. Informe de Stanford 2023
4. Transformer es una arquitectura. Las pruebas simuladas de GPT-4 y su entrada de imágenes/texto con salida textual no describen todas las versiones de ChatGPT. Artículo sobre Transformer; Informe técnico de GPT-4
5. La muestra reunió 2330 tuits de 1530 usuarios. El 92,5% sin categorizar corresponde a tuits, no a usuarios neutrales; interpretar agrupaciones léxicas no equivale a censar a la población. Estudio citado de 2023
6. Las entrevistas, el límite de conocimiento de 2021, la interfaz textual y las restricciones escolares pertenecen a contextos iniciales, no a especificaciones actuales ni a resultados causales universales. Estudio citado de 2023; Texto completo en SLI
7. Se conservan todos los usos y objetivos de educación especial y entrenamiento de mayores como potenciales líneas de investigación, no como eficacia clínica individual o universal. Texto completo en SLI
8. Los cuatro criterios, seis sugerencias y cinco preocupaciones son análisis y propuestas de los autores. Se aclaró la expresión sobre no confiar ciegamente; las propuestas no se presentan como normas aplicadas. Texto completo en SLI

Revista y atribución de la reproducción

Publicación original: China Modern Educational Equipment, 2024(1), pp.1–4,8. Autores: Ronghuai Huang, Ying Chen y Ahmed Tlili, Universidad Normal de Beijing. El original solicita citar la fuente al reproducirlo; se conservan los créditos de autores y revista. DOI: 10.13492/j.cnki.cmee.2024.01.006

Investigaciones y recursos relacionados

Más información: noticia del manual de robótica educativa de 2023, Foro sobre Robótica e Inteligencia Artificial en la Educación 2024 y recursos de educación especial e inclusiva.