Руководство по генеративному ИИ в образовании и исследованиях: расширенный обзор

7 сентября 2023 года ЮНЕСКО выпустила руководство по генеративному ИИ в образовании и исследованиях для поддержки действий, политики и развития человеческих возможностей. Статья сохраняет охват обзора сайта от 24 ноября 2023 года: риски, образовательные применения и защиту детей.

Охват обзора

Это изложение и интерпретация отдельных положений, а не полный текст или официальный перевод. Человекоцентричный подход подчеркивает самостоятельность, инклюзию, справедливость, гендерное равенство и культурное и языковое разнообразие.

Контекст публикации 2023 года

В отчете отмечалось около 100 миллионов активных пользователей ChatGPT в месяц в январе 2023 года; к июлю 2023 года специальные правила генеративного ИИ выпустила лишь одна страна. Это историческое наблюдение, а не современная статистика регулирования.

Исходный обзор сопоставлял руководство с китайскими Временными мерами управления услугами генеративного ИИ, опубликованными в июле 2023 года, обсуждая маркировку, этику, точность и человеческую проверку. Статус и охват документов различаются; китайские меры вступили в силу 15 августа 2023 года, их положения следует читать в официальном тексте.

При выпуске тогдашний Генеральный директор ЮНЕСКО Одрэ Азуле указала как на возможности развития, так и на вред и предубеждения. Образовательное применение требует общественного участия, государственных гарантий и надлежащих правил в интересах учащихся.

Шесть противоречий и образовательных рисков

Руководство рассматривает часто упускаемые противоречия. Существенный риск — смешение ошибок и предвзятости с убедительно выглядящими материалами, затрудняющее оценку знаний и источников. Ниже сохранены шесть проблем исходного обзора.

Бедность данных и неравенство: модели требуют больших объемов данных, вычислений и инвестиций, сосредоточенных у немногих компаний и экономик. Отчет упоминал США, Китай и европейские страны. Недоступность данных может усиливать отставание. Нужно критически оценивать ценности и культурные нормы обучения моделей и устранять структурные разрывы.

Запаздывание регулирования: быстрое развитие и трудности безопасности опережают законодательство и надзор. Расширение человеческих возможностей само по себе не обеспечивает ответственности поставщиков. Доступ к данным местных учреждений, людей и контекстов требует управления и защиты прав.

Использование без согласия: обучение может опираться на тексты, звук, код и изображения, собранные без разрешения владельцев. Пользователи должны понимать права на данные. Результаты могут затрагивать чужую интеллектуальную собственность, а опубликованные пользователями работы могут использовать другие модели.

Загрязнение источников и рекурсивные риски: дискриминация и предвзятость могут переходить из обучающих данных в результаты; уверенный стиль не гарантирует точности. Особенно уязвимы молодые учащиеся без достаточных знаний. Сгенерированные ошибки могут снова попасть в обучение; учебные материалы требуют человеческой проверки.

Разрыв с пониманием реальности: сравнение со «стохастическим попугаем» описывает воспроизведение языковых закономерностей. Правдоподобный текст не доказывает наблюдения, научного рассуждения или человеческого ценностного суждения. Свободная речь не оправдывает чрезмерного доверия.

Дипфейки и дезинформация: изменение изображений, аудио и видео затрудняет распознавание вымысла. В образовании синтетические материалы необходимо выявлять, проверять и обозначать, чтобы их не принимали за подлинные доказательства.

Исторический контекст авторского права

Обзор также передавал сравнения авторского права за 2023 год: значение человеческого творчества в США, раскрытие обучающих материалов в тогдашнем проекте европейского закона и маркировку определенных результатов в Китае. Это не универсальный действующий юридический вывод обо всех работах с участием ИИ.

Творческое применение и учебные потребности

Выход ChatGPT вызвал опасения по поводу написания работ за учащихся и обмана, одновременно стимулируя идеи, разнообразные примеры, планы уроков, презентации, резюме и изображения. Руководство ставит учебные и исследовательские потребности и этику выше увлечения техникой.

Четыре действия учреждений

Учреждениям нужны разработка, внедрение и проверка подходящих стратегий и этических рамок. Исходный обзор выделяет четыре взаимосвязанных действия:

• Институциональная этика: определить ответственное использование и тщательно проверять точность и обоснованность результатов.
• Рекомендации и обучение: понимать смещения разметки и алгоритмов и соблюдать применимые правила конфиденциальности и интеллектуальной собственности.
• Проектирование и оценка запросов: сочетать предметные знания, улучшение формулировок и критическую оценку с качественным обучением и поддержкой.
• Добросовестность и оценивание: отчет отмечал ограниченные доказательства эффективности водяных знаков и детекторов. Нужны человеческое суждение, ответственность и задания на эмпатию, творчество и решение сложных реальных проблем.

Исследования и преподавание

Совместное проектирование в процессе использования связывает исследования, поддержку учителей, базовые навыки, мышление высокого уровня и особые потребности. Эти направления требуют проверки, а не гарантируют эффективность любого инструмента.

Поддержка исследований: ИИ может расширять замыслы, помогать анализировать данные и литературу. Необходимо определять вопросы, ожидаемые результаты и способы проверки точности и эффективности, не ослабляя понимания реального мира исследователями.

Поддержка преподавания: учителя могут совместно создавать планы, комплекты материалов и курсы, углубляя предметные и педагогические знания. Диалоговые помощники на основе опыта учителей и ресурсов уже исследовались, но потенциал и этические риски требуют проверки, развития и человеческого надзора.

Индивидуальная практика: аудирование, произношение, письмо на родном или дополнительном языке, счет, искусство и программирование остаются основами развития. Подходящие инструменты могут обновить повторение в личном темпе, сохраняя мышление высокого уровня и творчество.

Специальное образование и доступность

Специальное образование и доступность: возможны субтитры для глухих и слабослышащих, аудиоописание для незрячих, преобразование текста в речь и речи в текст, помогающие получать материалы, задавать вопросы и общаться с другими учащимися.

Цитируемый правительственный опрос 2023 года показал, что лишь Китай, Иордания, Малайзия и Катар сообщали о проверке и рекомендации государственными органами ИИ-инструментов для инклюзивного доступа учащихся с инвалидностью. Это не доказывает эффективность всех применений генеративного ИИ.

Для выявления психологических, социально-эмоциональных или учебных трудностей через диалог доказательств эффективности и безопасности мало; любой диагноз требует профессиональной интерпретации. Такие исследования нельзя представлять зрелой заменой профильной помощи.

Защита детей и возрастная пригодность

Большинство универсальных приложений первоначально создавались для взрослых и могут подвергать детей неподходящему контенту или манипуляции. При быстром развитии и неопределенности нужны соответствующий возрасту дизайн, ограничения и надзор для защиты прав и благополучия детей.

Для самостоятельных разговоров с генеративными платформами руководство рекомендует минимальный порог 13 лет и публичное обсуждение ограничений и проверки возраста. Это рекомендация для политики, а не непосредственно обязательный закон ЮНЕСКО для всех стран.

В отчете приводились тогдашние условия ChatGPT: минимум 13 лет и разрешение родителей или опекунов до 18 лет. Рассматривались пороги 13 и 16 лет и согласие взрослых. Сравнения 2023 года не заменяют проверку нынешних условий сервиса и местных правил.

Руководство призывает определить ответственность поставщиков за проверку возраста и родителей или опекунов за самостоятельные разговоры несовершеннолетних. Возраст рассматривается вместе с учебной пригодностью, конфиденциальностью и реальным надзором.

Человекоцентричный вывод

Человекоцентричный подход расширяет интеллектуальные и социальные возможности. На основе Рекомендации об этике ИИ 2021 года необходима оценка на уровне людей, учреждений и систем, чтобы изменения образования и исследований служили инклюзивному цифровому будущему для всех.

Связанные материалы

Связанные материалы: краткая новость о выпуске руководства, окончательные рамки компетенций учителей и учащихся и ресурсы специального и инклюзивного образования. Их охват отличается от данного расширенного исторического обзора.

Исходное издание и источники

Исходное издание: Fengchun Miao и Wayne Holmes, Guidance for generative AI in education and research, UNESCO, 2023. DOI: 10.54675/EWZM9535. Лицензия CC BY-SA 3.0 IGO с указанными исключениями для сторонних изображений; официальная страница содержит разные языковые издания.

Редакционное примечание: сохранены китайский заголовок, URL и архивная дата 2023 года. По отчету исправлены число пользователей, возрастная рекомендация и ошибки перевода GenAI; примеры политики и продуктов оставлены в историческом контексте.