إرشادات الذكاء الاصطناعي التوليدي في التعليم والبحث: عرض موسّع

أصدرت اليونسكو في 7 سبتمبر 2023 إرشادات الذكاء الاصطناعي التوليدي في التعليم والبحث لدعم العمل والسياسات وتنمية القدرات البشرية. ويحفظ هذا النص نطاق عرض الموقع المؤرخ 24 نوفمبر 2023، بما يشمل المخاطر والاستخدامات التعليمية وحماية الأطفال.

نطاق العرض

هذا عرض وتفسير لأجزاء مختارة، وليس النص الكامل أو ترجمة رسمية. وتؤكد رؤيته المتمحورة حول الإنسان الفاعلية البشرية والإدماج والإنصاف والمساواة بين الجنسين والتنوع الثقافي واللغوي.

سياق النشر عام 2023

سجل التقرير وصول ChatGPT إلى نحو 100 مليون مستخدم نشط شهرياً في يناير 2023، بينما لم تكن سوى دولة واحدة قد أصدرت لوائح مخصصة للذكاء التوليدي حتى يوليو 2023. وهذه ملاحظات تاريخية وليست إحصاءات تنظيمية راهنة.

قارن العرض الأصلي الإرشادات بالتدابير الصينية المؤقتة لإدارة خدمات الذكاء الاصطناعي التوليدي، المنشورة في يوليو 2023، في موضوعات وسم المحتوى والأخلاقيات والدقة والمراجعة البشرية. وتختلف الوثيقتان في الطبيعة والنطاق؛ ودخلت التدابير الصينية حيز التنفيذ في 15 أغسطس 2023، وتفاصيلها في النص الرسمي.

أشارت المديرة العامة لليونسكو آنذاك أودري أزولاي عند الإطلاق إلى فرص التنمية البشرية ومخاطر الضرر والتحيز معاً. ورأت أن الاستخدام التعليمي يحتاج مشاركة الجمهور وضمانات حكومية وقواعد مناسبة تنطلق من مصالح المتعلمين.

ست قضايا ومخاطر تعليمية

تناقش الإرشادات خلافات كثيراً ما تُغفل. ومن أبرز المخاطر التعليمية اختلاط التحيز والخطأ بمحتوى يبدو موثوقاً، بما يصعّب الحكم على المعرفة والمصادر. وفيما يلي ست قضايا أبرزها العرض الأصلي.

فقر البيانات وعدم المساواة: تحتاج النماذج بيانات وحوسبة واستثماراً تقنياً واسعاً، تتركز في شركات واقتصادات قليلة. وأشار التقرير إلى الولايات المتحدة والصين ودول أوروبية. وقد يتخلف من لا يستطيع الوصول إلى البيانات أو تحمل كلفتها. وينبغي فحص قيم بيانات التدريب وأعرافها الثقافية، ومعالجة الفوارق البنيوية بالسياسات.

تأخر التنظيم: قد تسبق سرعة التطوير وصعوبات الأمان التشريع والرقابة. وتعزيز قدرات الإنسان لا يعني تلقائياً مساءلة مقدمي الخدمات. ويحتاج الوصول إلى بيانات المؤسسات والأفراد والسياقات المحلية واستخدامها إلى حوكمة وحماية للحقوق.

استخدام المحتوى دون موافقة: قد يتضمن التدريب نصوصاً وأصواتاً وبرمجيات وصوراً جُمعت دون إذن أصحابها. ويجب فهم حقوق البيانات؛ فقد تمس الصور أو الشيفرات المولدة ملكية الغير الفكرية، وقد تستغل نماذج أخرى الأعمال التي ينشرها المستخدمون.

تلوث المصادر والمخاطر التكرارية: قد تنتقل التحيزات والتمييز من التدريب إلى المخرجات، ولا تضمن الطلاقة الواثقة صحتها. ويزداد تعرض صغار المتعلمين قليلي المعرفة السابقة للتضليل. وإعادة جمع الأخطاء المولدة للتدريب قد تُنشئ حلقات تغذية راجعة؛ لذا تحتاج المواد التعليمية تحققاً بشرياً.

الفجوة عن فهم الواقع: يستخدم التقرير تشبيه «الببغاء العشوائي» لمناقشة تقليد الأنماط اللغوية. فالنص المقنع لا يثبت ملاحظة الواقع أو الاستدلال العلمي أو الحكم القيمي البشري. وينبغي ألا تؤدي الطلاقة إلى ثقة غير مبررة.

التزييف العميق والمعلومات المضللة: يمكن تعديل الصور والصوت والفيديو بحيث يصعب تمييز المختلق. ويتطلب الاستخدام التعليمي التعرف على المواد الاصطناعية والتحقق منها والإفصاح عنها، كي لا تُعامل كأدلة حقيقية.

حقوق المؤلف في سياقها التاريخي

نقل العرض أيضاً مقارنات التقرير بشأن حقوق المؤلف عام 2023: دور الإبداع البشري في الولايات المتحدة، والإفصاح عن مواد التدريب في مقترح قانون الذكاء الاصطناعي الأوروبي آنذاك، ووسم محتوى مولد معين في الصين. ولا تمثل هذه المقارنات حكماً قانونياً راهناً موحداً على جميع الأعمال المدعومة بالذكاء الاصطناعي.

الاستخدام الإبداعي يبدأ باحتياجات التعلم

أثار إطلاق ChatGPT مخاوف الكتابة بالنيابة والغش، إلى جانب تجارب توليد الأفكار والأمثلة المتنوعة وخطط الدروس والعروض والملخصات والصور. وتضع الإرشادات الاحتياجات التعليمية والبحثية والأخلاقيات قبل الانبهار التقني.

أربعة إجراءات مؤسسية

تحتاج المؤسسات التعليمية والبحثية إلى تصميم استراتيجيات وأطر أخلاقية مناسبة وتنفيذها والتحقق منها. ويحدد العرض الأصلي أربعة إجراءات متكاملة:

• أخلاقيات مؤسسية: تحديد الاستخدام المسؤول والتحقق الصارم من دقة المخرجات وصحتها.
• الإرشاد والتدريب: فهم تحيزات وسم البيانات والخوارزميات والامتثال لقواعد الخصوصية والملكية الفكرية المنطبقة.
• تصميم المطالبات وتقييمها: الجمع بين الخبرة التخصصية وصياغة المطالبات وتحسينها، والنقد، والتدريب والدعم الجيدين.
• النزاهة والتقييم: أشار التقرير إلى محدودية أدلة فعالية العلامات المائية والكشف الآلي. وتحتاج المؤسسات حكماً بشرياً ومساءلة ومهاماً معدلة تبرز التعاطف والإبداع والقدرات البشرية في مشكلات الواقع المعقدة.

استكشاف البحث والتدريس

من خلال التصميم التشاركي أثناء الاستخدام، تناقش الإرشادات البحث ودعم المعلمين والمهارات الأساسية والتفكير المتقدم واحتياجات التعلم الخاصة. وهي مسارات تستلزم المراجعة والتحقق، وليست ضمانات لفعالية أي أداة.

دعم البحث: قد توسع الأدوات الأفكار البحثية وتساعد استكشاف البيانات ومراجعة الأدبيات. ويظل تحديد الأسئلة والنتائج المتوقعة واختبارات الدقة والفعالية ضرورياً، دون إضعاف قدرة الباحث على فهم الواقع.

دعم التدريس: يمكن للمعلمين المشاركة في تصميم الدروس والحزم والمناهج وتعميق المعرفة التخصصية والتربوية. وقد جرى استكشاف مساعدين حواريين مدربين بمعارف المعلمين ومواردهم؛ لكن الإمكانات والمخاطر الأخلاقية تحتاج الفحص والتطوير والرقابة البشرية.

التدريب الفردي على المهارات الأساسية: يظل الاستماع والنطق والكتابة باللغة الأولى أو الإضافية والحساب والفنون والبرمجة أسساً للنمو. وقد تدعم أدوات مناسبة التدريب المتكرر بالوتيرة الفردية، مع حفظ التفكير المتقدم والإبداع.

التربية الخاصة والإتاحة

التربية الخاصة والإتاحة: تشمل الإمكانات الترجمة النصية للصم وضعاف السمع، والوصف الصوتي للمكفوفين، وتحويل النص إلى كلام والكلام إلى نص، لمساعدة ذوي الإعاقات البصرية أو السمعية أو الكلامية على الوصول للمحتوى وطرح الأسئلة والتواصل.

أوردت الإرشادات مسحاً حكومياً لعام 2023، لم تبلغ فيه سوى الصين والأردن وماليزيا وقطر عن تحقق جهاتها الحكومية من أدوات مساعدة بالذكاء الاصطناعي وتوصيتها بها للإتاحة الدامجة للمتعلمين ذوي الإعاقة. ولا يثبت ذلك فعالية جميع تطبيقات الذكاء التوليدي.

وبشأن اقتراح تشخيص صعوبات نفسية أو اجتماعية عاطفية أو تعليمية عبر الحوار، تؤكد الإرشادات محدودية أدلة الفعالية والأمان وضرورة تفسير أي تشخيص بواسطة مختصين. فلا يُعرض الاستكشاف بديلاً ناضجاً للخدمات المهنية.

حماية الطفل والاستخدام الملائم للعمر

صُممت معظم التطبيقات العامة في البداية للبالغين، وقد تعرض الأطفال لمحتوى غير مناسب أو للتلاعب. ومع سرعة التطوير وعدم اليقين، توصي الإرشادات بتصميم وحدود وإشراف ملائمة للعمر لحماية حقوق الأطفال ورفاههم.

توصي الإرشادات بحد أدنى قدره 13 عاماً للمحادثات المستقلة مع المنصات التوليدية، مع نقاش عام للحدود المناسبة وطرق التحقق. وهذه توصية سياسات، وليست قانوناً عمرياً ملزماً تفرضه اليونسكو مباشرة على كل دولة.

استشهد التقرير بشروط ChatGPT آنذاك: 13 عاماً على الأقل، وإذن ولي الأمر لمن هم دون 18. وناقش كذلك عتبتي 13 و16 عاماً وترتيبات الموافقة. وهذه مقارنات من 2023 لا تغني عن مراجعة الشروط الحالية والقواعد المحلية المنطبقة.

تدعو الإرشادات إلى تحديد مسؤولية المزود عن التحقق من العمر، ومسؤولية الوالدين أو الأوصياء عن مراقبة المحادثات المستقلة للقاصرين. وترتبط الحدود العمرية بالملاءمة التعليمية والخصوصية والإشراف الفعلي.

خلاصة متمحورة حول الإنسان

يهدف النهج المتمحور حول الإنسان إلى توسيع القدرات الفكرية والاجتماعية. وبالاستناد إلى توصية أخلاقيات الذكاء الاصطناعي لعام 2021، تلزم المراجعة على مستوى الفرد والمؤسسة والنظام، كي تخدم التحولات التعليمية والبحثية مستقبلاً رقمياً دامجا للجميع.

قراءة مرتبطة

قراءة مرتبطة: قارن موجز إطلاق الإرشادات، والإطارين النهائيين لكفاءات المعلمين والطلاب، وموارد التربية الخاصة والدامجة. وتختلف أغراضها عن هذا العرض التاريخي الموسع.

المنشور الأصلي والمصادر

المنشور الأصلي: Fengchun Miao وWayne Holmes، Guidance for generative AI in education and research، اليونسكو، 2023. DOI: 10.54675/EWZM9535. ترخيصه CC BY-SA 3.0 IGO مع استثناءات معلنة لصور الغير؛ وتوفر صفحة النشر الرسمية نسخاً لغوية متعددة.

ملاحظة تحريرية: حُفظ عنوان الأصل الصيني ورابطه وتاريخ أرشفته لعام 2023. وصُححت أعداد المستخدمين وتوصية العمر وأخطاء ترجمة GenAI بالرجوع للتقرير، مع حفظ السياق التاريخي للأمثلة التنظيمية والتقنية.