Orientations sur l’IA générative dans l’éducation et la recherche : présentation approfondie

Le 7 septembre 2023, l’UNESCO a publié des orientations sur l’IA générative dans l’éducation et la recherche pour soutenir l’action, les politiques et les capacités humaines. Cet article conserve le périmètre de la présentation du site du 24 novembre 2023 : risques, usages éducatifs et protection des enfants.

Périmètre

Il s’agit d’une présentation et d’une interprétation de passages choisis, et non du texte intégral ni d’une traduction officielle. Son approche humaine privilégie l’autonomie, l’inclusion, l’équité, l’égalité des genres et la diversité culturelle et linguistique.

Le contexte de 2023

Le rapport indiquait environ 100 millions d’utilisateurs mensuels actifs de ChatGPT en janvier 2023, tandis qu’un seul pays avait adopté une réglementation spécifique avant la fin juillet 2023. Ce constat historique ne décrit pas la réglementation mondiale actuelle.

La présentation comparait les orientations aux Mesures provisoires chinoises de gestion des services d’IA générative, publiées en juillet 2023, sur le marquage, l’éthique, l’exactitude et le contrôle humain. Leur nature et leur champ diffèrent ; les mesures chinoises sont entrées en vigueur le 15 août 2023 et doivent être consultées dans leur texte officiel.

Lors du lancement, Audrey Azoulay, alors Directrice générale de l’UNESCO, évoquait des possibilités de développement humain mais aussi des risques de préjudice et de biais. L’usage éducatif demande participation publique, garanties gouvernementales et règles adaptées, dans l’intérêt des apprenants.

Six controverses et risques éducatifs

Les orientations étudient des controverses souvent négligées. Un risque majeur est le mélange d’erreurs et de biais à des contenus apparemment fiables, compliquant l’évaluation des connaissances et des sources. Six problèmes soulignés par la présentation initiale sont conservés.

Pauvreté des données et inégalités : les modèles nécessitent données, calcul et investissements continus, concentrés dans quelques entreprises et économies. Le rapport citait les États-Unis, la Chine et des pays européens. Les personnes privées d’accès aux données peuvent être davantage marginalisées. Il faut examiner les valeurs et normes culturelles de l’entraînement et traiter les écarts structurels.

Adaptation réglementaire : l’évolution rapide et les difficultés de sécurité peuvent dépasser la législation et la surveillance. Accroître les capacités humaines ne garantit pas la responsabilité des fournisseurs. L’accès aux données des institutions, des personnes et des contextes locaux exige une gouvernance et une protection des droits adaptées.

Contenus sans consentement : l’entraînement peut utiliser textes, sons, code et images collectés sans autorisation. Les utilisateurs doivent connaître les droits sur les données. Les productions peuvent porter atteinte à la propriété intellectuelle d’autrui, tandis que leurs propres œuvres publiques peuvent servir à d’autres modèles.

Pollution des sources et risques récursifs : discriminations et biais peuvent passer des données aux résultats ; l’assurance du style ne garantit pas l’exactitude. Les jeunes sans connaissances préalables solides sont particulièrement exposés. Des erreurs générées peuvent être réutilisées pour l’entraînement ; les contenus pédagogiques nécessitent donc une vérification humaine.

Écart avec la compréhension du réel : l’analogie du « perroquet stochastique » décrit l’imitation de formes linguistiques. Un texte plausible ne prouve ni observation, ni raisonnement scientifique, ni jugement humain. Sa fluidité ne doit pas inspirer une confiance injustifiée.

Hypertrucages et désinformation : l’IA peut modifier images, sons et vidéos et rendre les inventions plus difficiles à distinguer. En éducation, les éléments synthétiques doivent être identifiés, vérifiés et signalés pour ne pas être pris pour des preuves authentiques.

Le contexte historique du droit d’auteur

La présentation reprenait des comparaisons juridiques de 2023 : créativité humaine aux États-Unis, divulgation des données d’entraînement dans le projet européen de l’époque, et marquage de certains contenus en Chine. Elles ne constituent pas une conclusion juridique universelle et actuelle sur toutes les œuvres assistées par IA.

Des usages créatifs fondés sur les besoins

Le lancement de ChatGPT a soulevé des craintes de rédaction déléguée et de triche, tout en suscitant des essais d’idées, d’exemples variés, de cours, de présentations, de résumés et d’images. Les besoins pédagogiques et de recherche et l’éthique doivent primer sur l’enthousiasme technique.

Quatre actions institutionnelles

Les institutions doivent concevoir, mettre en œuvre et valider des stratégies et cadres éthiques appropriés. La présentation initiale propose quatre actions complémentaires :

• Éthique institutionnelle : définir les usages responsables et vérifier rigoureusement exactitude et validité des résultats.
• Conseils et formation : comprendre les biais d’annotation et d’algorithmes et respecter les règles applicables de confidentialité et de propriété intellectuelle.
• Conception et évaluation des consignes : associer expertise disciplinaire, amélioration des demandes, analyse critique et formation et soutien de qualité.
• Intégrité et évaluation : le rapport relevait des preuves limitées pour filigranes et détecteurs. Jugement humain, responsabilité et tâches repensées doivent valoriser empathie, créativité et capacités humaines face aux problèmes réels complexes.

Explorer recherche et enseignement

La conception collaborative en cours d’usage relie recherche, soutien enseignant, compétences fondamentales, pensée supérieure et besoins particuliers. Ces pistes demandent examen et validation et ne garantissent pas l’efficacité de n’importe quel outil.

Recherche : les outils peuvent élargir les idées, explorer les données et aider les revues de littérature. Les questions, résultats attendus et vérifications d’exactitude et d’efficacité restent à définir, sans affaiblir la compréhension du réel par les chercheurs.

Enseignement : les enseignants peuvent coconcevoir des séquences, ensembles de ressources et cursus, et approfondir disciplines et pédagogie. Des assistants formés à partir de savoirs enseignants et de ressources ont été explorés, mais potentiel et risques demandent examen, amélioration et supervision humaine.

Entraînement individuel : écoute, prononciation, écriture en langue première ou additionnelle, calcul, arts et programmation restent essentiels. Des outils adaptés peuvent renouveler la pratique au rythme de chacun tout en préservant la pensée supérieure et la créativité.

Éducation spécialisée et accessibilité

Éducation spécialisée et accessibilité : les pistes comprennent sous-titres pour personnes sourdes ou malentendantes, audiodescription pour personnes aveugles, et conversions texte-parole et parole-texte pour accéder aux contenus, poser des questions et communiquer entre pairs.

Une enquête gouvernementale de 2023 citée par le rapport indiquait que seules la Chine, la Jordanie, la Malaisie et le Qatar déclaraient valider et recommander des outils d’IA pour l’accès inclusif des apprenants handicapés. Cela ne démontre pas l’efficacité de tous les usages de l’IA générative.

Concernant l’identification par dialogue de difficultés psychologiques, socioémotionnelles ou d’apprentissage, les preuves d’efficacité et de sécurité restent limitées et tout diagnostic demande une interprétation professionnelle. Il ne s’agit pas d’un substitut éprouvé aux services spécialisés.

Protection des enfants et adéquation à l’âge

La plupart des applications généralistes étaient initialement destinées aux adultes et peuvent exposer les enfants à des contenus inappropriés ou à la manipulation. Face à l’évolution et aux incertitudes, des limites, une conception adaptée à l’âge et une supervision protègent leurs droits et leur bien-être.

Pour les conversations autonomes avec les plateformes, les orientations recommandent un seuil minimal de 13 ans et un débat public sur les limites et leur vérification. C’est une recommandation de politique, et non une loi directement imposée par l’UNESCO à tous les pays.

Le rapport prenait pour exemple les conditions de ChatGPT de l’époque : au moins 13 ans et autorisation parentale ou du tuteur avant 18 ans. Il discutait aussi les seuils de 13 et 16 ans et les dispositifs de consentement. Ces comparaisons de 2023 ne remplacent pas les conditions et règles locales actuelles.

Les orientations demandent de préciser la responsabilité des fournisseurs pour vérifier l’âge et celle des parents ou tuteurs pour superviser les conversations autonomes des mineurs. L’âge doit être considéré avec la pertinence pédagogique, la confidentialité et la supervision réelle.

Une conclusion centrée sur l’humain

Une approche humaine élargit les capacités intellectuelles et sociales. Fondé sur la Recommandation sur l’éthique de l’IA de 2021, l’examen doit concerner individus, institutions et systèmes, pour que les transformations éducatives et scientifiques servent des futurs numériques inclusifs.

Lectures associées

Lectures associées : consulter la brève de lancement, les cadres définitifs des compétences des enseignants et des élèves, et les ressources d’éducation spécialisée et inclusive. Leur périmètre diffère de cette présentation historique approfondie.

Publication originale et sources

Publication originale : Fengchun Miao et Wayne Holmes, Guidance for generative AI in education and research, UNESCO, 2023. DOI : 10.54675/EWZM9535. Licence CC BY-SA 3.0 IGO, avec exceptions signalées pour les images de tiers ; la page officielle propose plusieurs éditions linguistiques.

Note éditoriale : le titre chinois d’origine, l’URL et la date d’archive de 2023 sont conservés. Le nombre d’utilisateurs, la recommandation d’âge et les erreurs de traduction de GenAI ont été corrigés d’après le rapport. Les exemples réglementaires et techniques restent contextualisés historiquement.