Orientaciones sobre la IA generativa en educación e investigación: presentación ampliada

El 7 de septiembre de 2023, la UNESCO publicó sus orientaciones sobre IA generativa en educación e investigación para apoyar la acción, las políticas y las capacidades humanas. Este artículo conserva el alcance de la presentación del sitio del 24 de noviembre de 2023: riesgos, usos educativos y protección infantil.

Alcance

Es una presentación e interpretación de partes seleccionadas, no el texto íntegro ni una traducción oficial. Su enfoque humano destaca la autonomía, la inclusión, la equidad, la igualdad de género y la diversidad cultural y lingüística.

Contexto de publicación en 2023

El documento registraba unos 100 millones de usuarios mensuales activos de ChatGPT en enero de 2023 y un solo país con regulación específica sobre IA generativa hasta julio de 2023. Son observaciones históricas, no estadísticas regulatorias actuales.

La introducción comparaba las orientaciones con las Medidas provisionales de China para la gestión de servicios de IA generativa, publicadas en julio de 2023, respecto al etiquetado, la ética, la exactitud y la revisión humana. Difieren en naturaleza y alcance; las medidas chinas entraron en vigor el 15 de agosto de 2023 y deben consultarse en su texto oficial.

En el lanzamiento, la entonces directora general de la UNESCO Audrey Azoulay señaló oportunidades para el desarrollo junto con riesgos de daño y prejuicio. La adopción educativa requiere participación pública, garantías gubernamentales y reglas adecuadas, atendiendo al interés de los estudiantes.

Seis controversias y riesgos educativos

Las orientaciones examinan controversias frecuentemente ignoradas. Un riesgo educativo destacado es mezclar sesgos y errores con contenido aparentemente fiable, dificultando el juicio sobre conocimientos y fuentes. Se conservan seis problemas señalados en la presentación original.

Pobreza de datos y desigualdad: los modelos necesitan grandes volúmenes de datos, cómputo e inversión, concentrados en pocas empresas y economías. El informe mencionaba Estados Unidos, China y países europeos. Quienes no pueden acceder a datos o pagarlos pueden quedar rezagados. Conviene examinar valores y normas culturales del entrenamiento y abordar las desigualdades estructurales.

Adaptación regulatoria: la rápida iteración y los problemas de seguridad pueden superar la legislación y supervisión. Ampliar capacidades humanas no garantiza la rendición de cuentas de los proveedores. El acceso y uso de datos de instituciones, personas y contextos locales requiere gobernanza y protección de derechos.

Contenido sin consentimiento: el entrenamiento puede incorporar textos, sonidos, código e imágenes recopilados sin permiso. Los usuarios deben conocer los derechos sobre los datos. Las imágenes o el código generados pueden afectar propiedad intelectual ajena, y otras herramientas pueden aprovechar las obras que publican los propios usuarios.

Contaminación y riesgos recursivos: los sesgos y la discriminación del entrenamiento pueden pasar a los resultados; la fluidez segura no garantiza exactitud. Los jóvenes con poco conocimiento previo son especialmente vulnerables. Los errores generados pueden volver al entrenamiento y crear ciclos; los materiales curriculares necesitan comprobación humana.

Distancia respecto a comprender el mundo: la analogía del «loro estocástico» explica la imitación de patrones lingüísticos. Un texto convincente no acredita observación real, razonamiento científico ni juicio humano. La fluidez no justifica una confianza desproporcionada de docentes y estudiantes.

Falsificaciones profundas y desinformación: la IA puede modificar imágenes, audio y vídeo y dificultar distinguir lo inventado. En educación es preciso identificar, comprobar y señalar el material sintético para evitar que se tome como prueba auténtica.

Derechos de autor en contexto histórico

La introducción recogía comparaciones sobre derechos de autor de 2023: creatividad humana en Estados Unidos, divulgación del material de entrenamiento en la entonces propuesta de ley europea y etiquetado de ciertos contenidos en China. No constituyen una conclusión jurídica universal y vigente sobre toda obra asistida por IA.

La creatividad parte de las necesidades de aprendizaje

El lanzamiento de ChatGPT suscitó preocupación por la suplantación de autoría y las trampas, junto con ensayos de ideas, ejemplos variados, planes, presentaciones, resúmenes e imágenes. Las orientaciones priorizan las necesidades educativas e investigadoras y la ética frente al entusiasmo tecnológico.

Cuatro acciones institucionales

Las instituciones deben diseñar, aplicar y validar estrategias y marcos éticos apropiados. La presentación original propone cuatro acciones complementarias:

• Ética institucional: definir el uso responsable y comprobar rigurosamente la exactitud y validez de los resultados.
• Orientación y formación: comprender sesgos de etiquetado y algoritmos y cumplir las normas aplicables de privacidad y propiedad intelectual.
• Diseño y evaluación de instrucciones: combinar conocimientos disciplinares, redacción y mejora de indicaciones, crítica de las respuestas y formación y apoyo de calidad.
• Integridad y evaluación: el informe señalaba evidencia limitada sobre marcas de agua y detectores. El juicio humano, la rendición de cuentas y tareas rediseñadas deben valorar empatía, creatividad y capacidades humanas ante problemas reales complejos.

Explorar investigación y docencia

Mediante el codiseño durante el uso, el documento aborda investigación, apoyo docente, habilidades básicas, pensamiento superior y necesidades especiales. Son vías sujetas a revisión y validación, no garantías de eficacia de cualquier herramienta.

Investigación: la IA puede ampliar ideas y ayudar a explorar datos y literatura. Deben definirse preguntas, resultados esperados y pruebas de exactitud y eficacia, sin debilitar la comprensión del mundo real por los investigadores.

Docencia: los profesores pueden codiseñar planes, materiales y cursos y reforzar conocimientos disciplinares y pedagógicos. Se han explorado asistentes conversacionales entrenados con experiencia docente y recursos, pero su potencial y sus riesgos requieren examen, iteración y supervisión humana.

Práctica individual de habilidades básicas: escuchar, pronunciar y escribir en la lengua propia u otras, calcular, crear arte y programar siguen siendo fundamentos del desarrollo. Las herramientas adecuadas pueden renovar la práctica al ritmo personal, conservando el pensamiento superior y la creatividad.

Educación especial y accesibilidad

Educación especial y accesibilidad: se contemplan subtítulos para alumnado sordo o con pérdida auditiva, audiodescripción para personas ciegas y conversiones de texto a voz y de voz a texto que faciliten acceder a contenidos, preguntar y comunicarse con compañeros.

Una encuesta gubernamental de 2023 citada por la UNESCO recogió que solo China, Jordania, Malasia y Qatar declaraban validar y recomendar herramientas de IA para el acceso inclusivo del alumnado con discapacidad. No demuestra la eficacia de todos los usos de IA generativa.

Sobre identificar dificultades psicológicas, socioemocionales o de aprendizaje mediante conversación, el documento señala evidencia limitada de eficacia o seguridad y exige interpretación profesional de cualquier diagnóstico. No debe presentarse como sustituto consolidado de servicios profesionales.

Protección infantil y adecuación a la edad

La mayoría de aplicaciones generales se diseñaron inicialmente para adultos y pueden exponer a menores a contenido inadecuado o manipulación. Ante cambios rápidos e incertidumbre, se recomiendan diseño apropiado a la edad, límites y supervisión para proteger derechos y bienestar infantil.

Para conversar independientemente con plataformas generativas, se recomienda un umbral mínimo de 13 años y debate público sobre límites y verificación. Es una recomendación de política, no una ley de edad directamente impuesta por la UNESCO a todos los países.

El documento ilustraba el debate con las condiciones de ChatGPT de entonces: al menos 13 años y permiso parental o del tutor para menores de 18. También trataba umbrales de 13 y 16 años y el consentimiento. Son comparaciones de 2023; deben comprobarse las condiciones actuales y las normas locales aplicables.

Se pide definir la responsabilidad del proveedor en verificar la edad y la de padres o tutores en supervisar las conversaciones independientes de menores. La edad debe considerarse junto con la idoneidad educativa, la privacidad y la supervisión efectiva.

Una conclusión centrada en las personas

El enfoque humano busca ampliar capacidades intelectuales y sociales. Basándose en la Recomendación sobre la Ética de la IA de 2021, exige examen individual, institucional y sistémico. La transformación educativa e investigadora debe favorecer futuros digitales inclusivos para todos.

Lecturas relacionadas

Lecturas relacionadas: compárese la noticia de lanzamiento, los marcos definitivos de competencias de docentes y estudiantes y los recursos de educación especial e inclusiva. Tienen un alcance distinto al de esta presentación histórica ampliada.

Publicación original y fuentes

Publicación original: Fengchun Miao y Wayne Holmes, Guidance for generative AI in education and research, UNESCO, 2023. DOI: 10.54675/EWZM9535. Licencia CC BY-SA 3.0 IGO, con excepciones indicadas para imágenes de terceros; la página oficial ofrece ediciones en distintos idiomas.

Nota editorial: se mantienen el título chino original, la URL y la fecha de archivo de 2023. Se corrigieron la cifra de usuarios, la recomendación de edad y errores de traducción de GenAI según el documento; los ejemplos normativos y de productos conservan su contexto histórico.