Историческая научная статья | Авторы: Хуан Жунхуай, Чжан Голян, Лю Мэнъюй. Modern Educational Technology, 2024, том 34, выпуск 2, страницы 13–22; опубликована кафедрой 30 сентября 2024 года. Описания, оценки и предложения сохраняют контекст исследования и не являются изложением текущей политики или гарантией эффективности продукта.
Содержание статьи
Аннотация и ключевые слова
Аннотация. Включение интеллектуальных технологий во весь образовательный процесс меняет образование, но одновременно порождает этические риски: алгоритмическую дискриминацию, злоупотребление технологиями, утечки личных данных и смещение ролей участников. Предотвращение рисков при сохранении технологических преимуществ стало важной задачей умного образования. Сначала статья анализирует документы по технологической этике и выделяет четыре измерения: интеллектуальные технологии, участники образования, образовательные данные и надзор. Затем рассматривает различные проявления рисков в шести сценариях — преподавании, учении, управлении, оценивании, тренировке и исследовании — и связывает причины с ненадёжностью инструментов, недостаточно упорядоченной практикой и недостаточной грамотностью учителей и учащихся. В заключение предложены меры развития технологий, управления рисками, подотчётности и надзора, обмена данными и повышения грамотности для устойчивого и благополучного развития умного образования.
Ключевые слова: умное образование; интеллектуальные технологии; этические нормы; проявления рисков; управление рисками
Введение
Интеллектуальные технологии меняют образование, но сопровождаются дискриминацией и непрозрачностью алгоритмов, злоупотреблением и зависимостью, утечками данных, ослаблением эмоционального общения и неясностью границ полномочий[1][2]. Эти вопросы привлекают внимание в Китае и за его пределами. В 2019–2021 годах ЮНЕСКО опубликовала Пекинский консенсус по искусственному интеллекту и образованию, Рекомендацию об этических аспектах искусственного интеллекта и другие документы[3][4], призывающие к этичным и устойчивым образовательным применениям. Снижение рисков и использование технологий во благо стали общей задачей мирового образования[5].
Применение интеллектуальных технологий способствует изменению образовательных форм. Умное образование как продвинутый этап цифрового развития соответствует целям трансформации; одна из особенностей его практики — соблюдение технологической этики[6]. Новые продукты создают возможности и опасения. Этические нормы, однако, развиваются медленнее практического применения. Исследования преимущественно посвящены принципам и абстрактным рискам и не дают целостной рамки, выходящей за пределы влияния самой технологии[7]. Этого недостаточно для образования с более насыщенной технологической средой и системной интеграцией. Политики, исследователи, практики, разработчики и другие стороны по-разному понимают нормы. Поэтому необходим систематический анализ ориентиров, проявлений, причин и управления, связывающий должные принципы с реальными трудностями и поддерживающий устойчивое развитие.
I. Нормативные ориентиры технологической этики умного образования
Этика означает моральные принципы отношений между людьми, включая объективные этические отношения и их внешнее регулирование[8]. Технологическую этику можно определить как нормы отношений технологии с человеком и обществом при разработке и использовании[9]. В 2017 году Государственный совет КНР принял план развития искусственного интеллекта нового поколения, предложив его применение в преподавании, управлении и создании ресурсов, а также персонализацию повседневного и непрерывного образования[10]. По мере проникновения технологий во все этапы обучения риски расширяются. Уточнение должных ориентиров создаёт общую основу понимания и практические принципы.
1. Анализ ориентиров
Многие государства и организации выпускают этические документы, ограничивающие негативные последствия интеллектуальных технологий. В образовании обновляющиеся отчёты дают основу и перспективные рекомендации, однако выделяемые принципы часто воспроизводят общую технологическую логику, недостаточно учитывая педагогическую специфику. Исследование рассматривает семь характерных документов за предшествующие пять лет и с помощью контент-анализа выделяет их этические вопросы, представленные в таблице 1. Цель — модель, соответствующая природе, ценностям и современным условиям образовательного применения. Выделены четыре основных измерения: интеллектуальные технологии, участники, данные и надзор. Они организуют элементы и принципы модели.
Точная отрисовка векторной таблицы; печатная страница 14, страница PDF 2.
Полный текст таблицы 1: семь документов
Семь строк и три столбца представлены выделяемым текстом для чтения вслух. Названия и принципы переведены на язык страницы; исходное изображение остаётся китайским.
| Название документа | Организация | Этические ориентиры: элементы или принципы |
|---|---|---|
| Пекинский консенсус по искусственному интеллекту и образованию [11] | ЮНЕСКО | Человеческий контроль; ориентация на человека; отсутствие дискриминации; гендерное равенство; прозрачные проверяемые данные и алгоритмы; инклюзия и справедливость; приватность; безопасность; сотрудничество сторон. |
| Искусственный интеллект в образовании: вызовы и возможности устойчивого развития [12] | ЮНЕСКО | Инклюзия и справедливость приложений; инклюзивные качественные системы данных; справедливость, этика и прозрачность сбора, использования и распространения, включая приватность, безопасность и защиту, объяснимость и подотчётность. |
| Надёжный искусственный интеллект в образовании: перспективы и вызовы [13] | ОЭСР | Формировать доверие через прозрачность, объяснимость и подотчётность; обеспечивать безопасность и защиту данных ради человеческих ценностей, включая приватность и другие виды безопасной обработки. |
| ИИ и образование: руководство для разработчиков политики [14] | ЮНЕСКО | Приватность и конфиденциальность; предотвращение смещений и необъяснимости; правила защиты и надзор для справедливого, прозрачного, недискриминационного и проверяемого использования и повторного использования; инклюзия и справедливость образования. |
| Этическая рамка ИИ в образовании [15] | Букингемский университет, Великобритания | Достижение образовательных целей; формы оценивания; управление и рабочая нагрузка; справедливость; автономия; приватность; прозрачность и подотчётность; информированное участие; этичное проектирование. |
| Искусственный интеллект и будущее преподавания и учения: выводы и рекомендации [16] | Министерство образования США, Управление образовательных технологий | Защита приватности; безопасность данных; ориентация на человека; образовательная справедливость; этика; прозрачность; объяснимость; подотчётность. |
| Генеративный ИИ и будущее образования [17] | ЮНЕСКО | Приоритет справедливости, качества и безопасности; внимание к смещениям данных. |
2. Построение модели
На основе таблицы 1 предложена модель этических ориентиров умного образования, показанная на рисунке 1. Она системно представляет нормы, которые необходимо учитывать при применении интеллектуальных технологий, чтобы они этично поддерживали преподавание, учение, управление, оценивание, тренировку и исследование.
Документы позволяют следующим образом раскрыть ориентиры.
① Технологическое измерение включает объяснимость, точность, безопасность и устойчивость алгоритмов и продуктов. Принципы работы и принятия решений должны быть открытыми, понятными и прослеживаемыми на этапах ввода, вывода, оценки работы и генерации результатов, повышая доверие. Анализ и содержание должны быть точными и не вводить в заблуждение. Безопасность означает соответствие нормам и отсутствие вреда в алгоритмах, взаимодействии человека с машиной и устройстве продукта. Устойчивость — надёжная работа системы при угрозах без аномальных результатов.
② Данные требуют безопасности и стандартизации. Их следует защищать при сборе, хранении, использовании, передаче и удалении от утечек и злоупотреблений. Стандартизация форматов и процессов обеспечивает качество, общую пригодность и упорядоченное движение между системами. Обучающие наборы должны быть достоверными, точными, объективными и разнообразными, чтобы предотвращать смещения.
③ Надзор охватывает подотчётность, контроль и совместное управление. Правила должны определять обязанности участников разработки и применения, направлять использование и устранять неясность ответственности. Приложения должны поддаваться проверке, оценке и управлению. Инклюзивное сотрудничество сторон помогает распределять преимущества среди всего общества и поддерживать устойчивость.
④ Участникам образования необходимы справедливость, контроль, достоинство и приватность. Справедливость означает недискриминационный равный доступ между странами, регионами, расовыми группами, людьми разного пола, с разными формами инвалидности и языковыми сообществами. Контроль включает свободное решение использовать или прекратить использование технологии и возможность управлять ею на всех этапах. Достоинство присуще человеку и неприкосновенно; права и основные свободы должны соблюдаться во всём жизненном цикле. Доступ к личным сведениям должен быть разумным, законным и сдержанным.
Исходное изображение модели извлечено из журнала; печатная страница 15, страница PDF 3.
Полное описание рисунка 1: четыре измерения и тринадцать принципов
В центре названа модель этических ориентиров умного образования. Среднее кольцо разделено на четыре измерения, вокруг размещены тринадцать принципов; внешний периметр связывает шесть образовательных сценариев.
- Интеллектуальные технологии
- Объяснимость
- Точность
- Безопасность
- Устойчивость
- Участники образования
- Справедливость
- Контроль
- Человеческое достоинство
- Защита приватности
- Образовательные данные
- Безопасность данных
- Стандарты данных
- Образовательный надзор
- Подотчётность
- Надзор
- Совместное управление
Шесть сценариев применения
- Преподавание
- Учение
- Образовательное управление
- Оценивание
- Тренировка навыков
- Исследование и производство знаний
II. Проявления рисков в типичных сценариях умного образования
Интеграция технологий создала умные безопасные кампусы, роботов-компаньонов и обучение в виртуальных симуляциях[18], изменила преподавание, учение, управление, оценивание, тренировку навыков и производство знаний. Массовое внедрение одновременно порождает риски. Образование — сложная социальная деятельность, а технологии и практика разнообразны и зависят от контекста. Поэтому риски проявляются по-разному. Статья последовательно рассматривает реальные трудности шести сценариев: преподавания, учения, управления, оценивания, тренировки и исследования.
1. Неверное использование роботов меняет педагогические полномочия и границы отношений
От компьютерной поддержки обучения и интеллектуальных тьюторов до роботов отношения человека и машины развивались от помощи к сотрудничеству[19]. Робот превращает связь «учитель–ученик» в тройственную систему «учитель–машина–ученик». Плохая интеграция может вредить обучению и эмоциональному развитию, роли учителя и его ведущему положению. Роботы способны ослаблять или замещать человеческие функции и сокращать личное общение[20]. Учащиеся могут больше зависеть от машинного преподавателя, что меняет отношения с учителями, сверстниками и техникой. Дети приписывают роботам человеческие когнитивные, поведенческие и эмоциональные свойства[21]. Эти устройства являются инструментами, но внешне проявляют человекоподобные качества, усложняя свои функции и границы ролей. Доклад COMEST по этике робототехники также отмечает размывание границы между человеческим субъектом и техническим объектом и ставит вопрос: робот — наставник, инструмент или товарищ и насколько он может заменить учителя[22]? В историческом контексте статьи образовательная робототехника находилась на раннем этапе с педагогическими ограничениями, слабой обратной связью и восприятием[23]. Возникали и трудности установления моральной и юридической ответственности за вредное или неконтролируемое поведение.
2. Алгоритмическая дискриминация мешает персонализации и всестороннему развитию
Запросы меняются от стандартного преподавания к персонализированному и непрерывному обучению, а услуги — к индивидуальной поддержке[24]. Интеллектуальные системы подбирают содержание и траектории с учётом способностей, стилей и других особенностей. Но дискриминационные модели и неполные либо смещённые данные могут по-разному обращаться с людьми и создавать предубеждения по способностям, полу или расе. Это способно сорвать персонализацию, поляризовать результаты и усилить неравенство. Рекомендации также создают информационные коконы: сужая источники и пути в соответствии с интересами, они закрепляют исходные убеждения и односторонние взгляды. Технология может тем самым усиливать ценностные предубеждения и дискриминацию[25], препятствуя полноценному развитию.
3. Плохое управление данными усиливает утечки и злоупотребления
Образовательные данные включают сведения, возникающие в практике или связанные с ней, и проходят цикл создания, сбора, владения и использования[26]. Массовый сбор и анализ несут риски вторжения в частную жизнь, утечек и злоупотреблений. Умное видеонаблюдение, учёт посещаемости по лицу и мониторинг класса сокращают личное пространство учащихся, делая учебную деятельность объектом всеобщего наблюдения[27]. Личные сведения и оценки могут пострадать от небрежного управления, незаконного доступа, атак и уязвимостей. Утечки и изменения угрожают информационной, физической, психологической и материальной безопасности. Статья ссылается на расследование Счётной палаты США 2020 года, сообщавшее о тысячах школьников, затронутых 99 утечками, где часто раскрывались оценки и записи специального образования[28]. Платформы и приложения могут продавать или неправомерно использовать частные данные ради коммерческих целей либо предвзятых решений. Упомянуты и опубликованные китайским Министерством промышленности и информатизации случаи незаконного сбора сведений и чрезмерных разрешений в коммерческих приложениях и SDK, а также мошенничество, кража личности и выдача себя за другого с использованием данных учащихся.
4. Зависимость от машинного оценивания ослабляет профессиональное суждение и справедливость
Решения учителя влияют на эффективность практики[29]. Инструменты на основе данных анализируют познание, эмоции и поведение, создают профили и выдают предупреждения, обратную связь и рекомендации. Они помогают корректировать преподавание и сокращать повторяющуюся работу. Однако автоматизация и эффективность могут вызвать чрезмерное доверие машинным оценкам и стратегиям. Учитель рискует стать механическим исполнителем, пренебрегая опытом, хуже понимая контекст и эмоции учащихся и теряя самостоятельность решений[30]. Могут пострадать эффективность и профессиональное развитие. Непрозрачность алгоритмов и ненадёжность данных также угрожают справедливости. Неверные предпосылки, неточная информация и игнорирование различий и особых обстоятельств искажают оценки и траектории, вызывают разочарование и несправедливое обращение и могут повлиять на дальнейшие возможности ученика.
5. Погружение в виртуальную среду вызывает опасения за моральное поведение
VR, AR и MR сокращают стоимость подготовки, развивают навыки, позволяют избежать опасностей реальных экспериментов, преодолевают время и расстояние и делают обучение интересным. Но погружение, присутствие и многосенсорное взаимодействие размывают границу реальности и симуляции. Этические проблемы могут повторяться в изменённом виде и воздействовать на реальную жизнь. Возникают вопросы конечной либо повторяемой жизни и достоинства участников. Слабый надзор за действиями и последствиями может ослаблять моральные ограничения. Аватары, агенты и виртуальное общение расширяют связи, но вымышленная идентичность способна поощрять пренебрежение нормами общения и новые виды травли. Отождествление с идеальными свойствами аватара может менять реальные представления, установки и поведение[31]. Состояние потока в образовательных VR-играх может сопровождаться эмоциональным переносом на объекты и утратой чувства себя, а чрезмерное использование — поведенческой зависимостью и технологической аддикцией[32]. Статья также отмечает незрелость продуктов в рассматриваемый период. Различия параметров виртуального и реального мира могут вызывать ошибки запоминания фактов и анализа практического опыта[33]. VR способен провоцировать укачивание и физические риски для учителей и учащихся.
6. Злоупотребление генеративным ИИ может способствовать обману и снижению творчества
Крупные модели, включая ChatGPT, могут собирать, обрабатывать и генерировать персонализированные ресурсы[34]. Но результаты бывают фактически неверными, вводящими в заблуждение и убедительно ложными. Неограниченное злоупотребление способно облегчать учебное и исследовательское мошенничество и ослаблять творчество. Чрезмерная зависимость поощряет обход самостоятельной работы; опора на рекомендации вместо активного поиска и независимого мышления может снижать способность учиться, критически мыслить и творить. Статья описывает внимание к рискам в тот период, включая разработанный в Стэнфорде DetectGPT для выявления машинных текстов. Также отмечается публикация Управлением по вопросам киберпространства КНР[35] в июле 2023 года Временных мер по управлению услугами генеративного искусственного интеллекта, обязывающих поставщиков принимать действенные меры против чрезмерной зависимости и привыкания несовершеннолетних.
III. Причины этических рисков образовательных применений
Расширение применения интеллектуальных технологий усиливает взаимодействие человека и машины. С позиции совместного преподавания и образования статья объединяет причины в три измерения: технологические инструменты, образовательная практика, грамотность учителей и учащихся.
1. Ненадёжные технологические инструменты
Смещения, непрозрачность алгоритмов и ограниченная пригодность продуктов — центральные причины.
① Проектирование имеет ограничения. Алгоритмы продолжают логику разработчиков: классификации и модели, основанные на человеческих суждениях, воспроизводят ценности и предубеждения в решениях. Сложность преподавания затрудняет полный и точный сбор данных. Смещённое обучение закрепляет дискриминацию по принципу «смещение на входе — смещение на выходе». Крупные нейросетевые модели содержат структуры и параметры, которые трудно понять, проверить и считать надёжными. Между тем образование зависит от активности людей, а корреляции не объясняют полностью причинные механизмы.
② Продукты ограничены в применении. Практике нужны удобные эффективные инструменты, но слабая связь разработки с классом мешает понять реальные потребности и процессы. Между функциями и практикой остаются большие расхождения. Неясные стандарты ослабляют безопасность и соответствие нормам; сочетание технологий создаёт уязвимости. Нестабильные, не соответствующие требованиям и неустойчивые к угрозам системы способны нарушать права участников.
2. Недостаточно упорядоченная образовательная практика
Сочетание разнородных элементов усложняет образовательную среду и повышает требования. Неэффективные модели интеграции и отсутствие надзора оставляют риски без контроля.
① Новые технологии расширяют границы и сценарии, усложняя выбор педагогических моделей. Без действенных ориентиров, опыта и управления рисками педагоги могут неправильно интегрировать инструменты или применять их без разбора. По мере роста возможностей машин важно выбирать тип партнёра и распределять роли и задачи при совместном преподавании[36], предотвращая подмену образовательных ролей.
② Надзор служит защитой подходящего использования и этического поведения. При отсутствии ясных правил учреждениям и практикам может недоставать ответственности и ограничений. Статья отмечает рост нарушений при слабом контроле: учителя, администраторы и другие сотрудники имеют доступ к данным, что усложняет единое регулирование поведения[37]. Сообщалось о продаже учебных и идентификационных сведений без ведома учителей и учащихся[38]. Отсутствие подотчётности создаёт серые зоны для неправомерных действий.
3. Недостаточная грамотность учителей и учащихся
Технологию использует человек, поэтому цифровая грамотность определяет уместность её применения. Учителям и учащимся нужны технические знания и навыки вместе с этическими установками и ценностями. Недостатки порождают риски.
① Без достаточной компетентности и обучения люди могут использовать инструменты неправильно или чрезмерно, становиться зависимыми, ошибаться и терять инициативу. Нехватка знаний мешает обслуживать системы, повышая вероятность сбоев и утечек и снижая образовательную пользу.
② Этическая осведомлённость также важна. Учитель, не понимающий рисков, может не суметь направить ученика. Слабая защита приватности, недостаток критического мышления и навыков распознавания ложной информации делают учащихся уязвимыми перед недостоверными и вредными материалами, влияющими на дальнейшее поведение.
IV. Практические предложения по управлению этическими рисками
Опираясь на анализ причин, статья предлагает меры предотвращения и управления для согласованного развития участников, технологий и практики и всестороннего перехода к умному образованию.
1. Повысить пригодность интеллектуальных образовательных продуктов
Компании должны отвечать за продукты, услуги и технические гарантии.
① Усилить стандарты проектирования, разработки и обслуживания. До начала работ изучить реальные потребности и условия; определить требования к сбору, передаче и обработке данных для интеграции, включая стандартизацию, защищённые коммуникации и API. Избегать избыточных функций, разорванных процессов и информационных изолятов. Развивать шифрование, контроль доступа и полномочий, сетевую и системную безопасность, резервирование и восстановление. Проверять прототипы, оценивать их и быстро устранять уязвимости; при продвижении соблюдать права и приватность пользователей.
② Повышать объяснимость во всём жизненном цикле для надёжных ответственных продуктов. Предотвращать смещения данных; учитывать происхождение, успеваемость, интересы, стили, индивидуальные различия и особые обстоятельства учащихся для справедливых обоснованных решений. В разных контекстах рассматривать глобальную и локальную объяснимость и предоставлять подходящие показатели работы и веса факторов решения, повышая прозрачность.
2. Усилить управление рисками внедрения технологий
Школы играют основную роль в создании умного образования и могут обеспечивать безопасную среду через оценку и управление рисками.
① Создать механизмы оценки и реагирования. До внедрения определить цели и границы, согласовать их с педагогическими задачами, изучить пригодность и ограничения, риски и меры ответа, всесторонне оценить продукты. Тщательно готовить и испытывать пилоты для стабильной, надёжной работы без нарушения обычного преподавания.
② Распространять опыт управления и использования. Школы могут формировать благоприятные условия, обучать педагогов, развивать показательные случаи и практические модели и делиться эффективными подходами.
3. Установить защиту данных, подотчётность и надзор
Государство должно направлять развитие и осуществлять надзор в рамках общей системы управления.
① Усилить приватность и нормы использования через классифицированную многоуровневую защиту и более подробные правила сбора и применения. Разнообразие данных требует заблаговременного планирования безопасности для предотвращения злоупотреблений и утечек. Следует повышать достоверность, точность, объективность и разнообразие обучающих наборов.
② Установить правила для поставщиков, школ и учреждений, меры контроля и правовые основания ответственности. Быстрое развитие и отставание регулирования могут создавать социальные и этические проблемы. Политики должны поддерживать обмен и интеграцию ресурсов и привлекать к ответственности за нарушения. Множество участников требует межсекторного сотрудничества: совместных пилотов до масштабирования, общего понимания, согласованных действий и прояснения обязанностей между организациями.
4. Обеспечить упорядоченное движение данных между системами
Для здорового обмена нужны стандарты данных и механизмы совместного использования. Стандарты образуют основу, а договорённости обеспечивают порядок. Совместимость и интегрированный анализ требуют единых форматов и межведомственного взаимодействия. Несмотря на обилие данных, системы нередко проектируются только для внутренних или вертикальных административных задач. Различия кодирования, форматов и качества мешают объединению источников. Сложные процедуры обмена между уровнями повышают издержки и угрозы безопасности[39]. Единые стандарты и многократное использование одного авторитетного источника помогают совместить защиту и безопасный обмен.
5. Развивать цифровую грамотность учителей и учащихся
Учителя и учащиеся реализуют умное образование и создают значительную часть его данных. Этическая осведомлённость о приватности и грамотное применение технологий уменьшают возможный вред.
① Развивать техническую и этическую грамотность, активно отвечая на изменения. Учителям нужно проходить подготовку, понимать ограничения и риски, обдуманно внедрять инструменты, избегая избыточного и неуместного использования. Учащимся необходимы осознание приватности и критическое мышление.
② На практике искать эффективные модели интеграции, проявлять инициативу, адаптироваться к совместной работе человека и машины и совершенствовать способность к такому сотрудничеству.
Литература
В журнале 39 номеров относятся к 37 записям: [3]/[11] и [19]/[36] объединены попарно. Каждый номер имеет цель перехода. Сохранены исходные языки, восстановлены адреса и проверяемые DOI, исправлены написания Buckingham и Paris. Дополнительное редакционное чтение не выдается за исходную библиографию.
- [1]杜静,黄荣怀,李政璇,等.智能教育时代下人工智能伦理的内涵与建构原则[J].电化教育研究,2019,(7):21-29.
- [2]胡小勇,黄婕,林梓柔,等.教育人工智能伦理:内涵框架、认知现状与风险规避[J].现代远程教育研究,2022,(2):21-28、36.
https://unesdoc.unesco.org/ark:/48223/pf0000368303.locale=zh
- [4]UNESCO. Recommendation on the ethics of artificial intelligence[OL].
https://www.unesco.org/en/artificial-intelligence/recommendation-ethics
- [5]白钧溢,于伟.超越“共识”:教育人工智能伦理原则构建的发展方向[J].中国电化教育,2023,(6):9-17、24.
- [6]黄荣怀,刘梦彧,刘嘉豪,等.智慧教育之“为何”与“何为”——关于智能时代教育的表现性与建构性特征分析[J].电化教育研究,2023,(1):5-12、35.
- [7]张永波.智慧教育伦理观的建构机理研究[J].中国电化教育,2020,(3):49-55、92.
- [8]李建华.伦理与道德的互释及其侧向[J].武汉大学学报(哲学社会科学版),2020,(3):59-70.
- [9]赵磊磊,张黎,代蕊华.教育人工智能伦理:基本向度与风险消解[J].现代远距离教育,2021,(5):73-80.
- [10]国务院.国务院关于印发新一代人工智能发展规划的通知[OL].
https://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm
- [12]UNESCO. Artificial intelligence in education: Challenges and opportunities for sustainable development[OL].
- [13]OECD. Trustworthy artificial intelligence (AI) in education: Promises and challenges[OL].
- [14]UNESCO. AI and education: guidance for policy-makers[OL].
- [15]The University of Buckingham. The ethical framework for AI in education[OL].
- [16]U.S. Department of Education, Office of Educational Technology. Artificial intelligence and the future of teaching and learning[OL].
- [17]UNESCO. Generative AI and the future of education[OL].
- [18]杨俊锋,施高俊,庄榕霞,等.5G+智慧教育:基于智能技术的教育变革[J].中国电化教育,2021,(4):1-7.
- [20]Sharkey A J C. Should we welcome robot teachers?[J]. Ethics and Information Technology, 2016,18:283-297.
- [21]Beran T N, Ramirez-Serrano A, Kuzyk R, et al. Understanding how children understand robots: Perceived animism in child-robot interaction[J]. International Journal Human-Computer Studies, 2011,(7-8):539-550.
- [22]UNESCO, COMEST. Report of COMEST on robotics ethics[R]. Paris: UNESCO, 2017:33.
- [23]卢宇,薛天琪,陈鹏鹤,等.智能教育机器人系统构建及关键技术——以“智慧学伴”机器人为例[J].开放教育研究,2020,(2):83-91.
- [24]黄荣怀,刘德建,焦艳丽,等.互联网教育服务产业研究报告[R].北京:互联网智能技术及应用国家工程实验室,2017:4.
- [25]韦妙,何舟洋.本体、认识与价值:智能教育的技术伦理风险隐忧与治理进路[J].现代远距离教育,2022,(1):75-82.
- [26]刘三女牙,杨宗凯,李卿.教育数据伦理:大数据时代教育的新挑战[J].教育研究,2017,(4):15-20.
- [27]孙立会.人工智能之于教育决策的主体性信任危机及其规避[J].电化教育研究,2023,(3):21-27、43.
- [28]United States Government Accountability Office. Data security: Recent K-12 data breaches show that students are vulnerable to harm[OL].
- [29]沈书生.聚焦学习决策:指向认知发生的数据及其应用[J].电化教育研究,2021,(11):13-19.
- [30]蒋艳双,崔璨,刘嘉豪,等.教育领域中的情感计算技术:应用隐忧、生成机制与实践规约[J].中国电化教育,2022,(5):91-98.
- [31]高媛,刘德建,黄真真,等.虚拟现实技术促进学习的核心要素及其挑战[J].电化教育研究,2016,(10):77-87、103.
- [32]孙田琳子.虚拟现实教育应用的伦理反思——基于伯格曼技术哲学视角[J].电化教育研究,2020,(9):48-54.
- [33]沈阳,逯行,曾海军.虚拟现实:教育技术发展的新篇章——访中国工程院院士赵沁平教授[J].电化教育研究,2020,(1):5-9.
- [34]吴砥,李环,陈旭.人工智能通用大模型教育应用影响探析[J].开放教育研究,2023,(2):19-25、45.
- [35]中国网信网.生成式人工智能服务管理暂行办法[OL].
- [37]张誉元,张海.数据生命周期视阈下教育数据伦理问题及规约之径[J].中国电化教育,2022,(10):118-125.
- [38]赵磊磊,陈祥梅.数智时代教育大数据风险:表征样态与化解路向[J].贵州师范大学学报(社会科学版),2022,(2):72-82.
- [39]杨琳,王炜,诸纪,等.面向数据共享的教育数据标准体系研究与建设实践[J].大数据,2020,(6):3-13.
Журнальный источник и редакционное примечание
Цитируемая статья: 黄荣怀,张国良,刘梦彧.面向智慧教育的技术伦理取向与风险规约[J].现代教育技术,2024,34(02):13-22.
Источник | Modern Educational Technology (现代教育技术)
Подготовлено по Modern Educational Technology, 2024, том 34, выпуск 2, страницы 13–22. Таблица 1 и рисунок 1 взяты из журнала и дополнены текстовыми альтернативами. Переводы сайта предназначены для научного обмена; исходные аргументы, изображения и цитаты проверяйте по журналу.
Исходная ссылка: https://aiedchair.bnu.edu.cn/news-7951-ru/
