أدى استخدام أدوات الذكاء الاصطناعي المتطورة بشكل متزايد إلى كثير من المخاوف الأخلاقية التي تحتاج إلى فحص وتفصيل، وأشار كتاب مبادئ استخدام الذكاء الاصطناعي في البحث العلمي إلى الحاجة لتحليل أعمق وأكثر تطلع للكشف عن أهم القضايا الأخلاقية المجهولة والتي حصرها في الآتي:
أولاً: الوصول والإنصاف:
قد تؤدي أنظمة الذكاء الاصطناعي التوليدية في التعليم إلى تفاقم الفوارق القائمة في الوصول إلى التكنولوجيا والموارد التعليمية، مما يزيد من تعميق عدم المساواة بين الطلاب والباحثين.
ثانياً: الاتصال البشري:
قد تقلل أنظمة الذكاء الاصطناعي التوليدية في التعليم من إنسان إلى إنسان التفاعل والجوانب الاجتماعية والعاطفية الهامة للتعلم، وتؤثر بشكل كبير على ظهور الدوافع خلف العملية التعليمية والبحث.
ثالثاً: التنمية الفكرية البشرية:
قد تحد أنظمة الذكاء الاصطناعي التوليدية من استقلالية المتعلمين وفاعليتهم من خلال توفير حلول محددة مسبقًا أو تضييق نطاق التعلم، ونطاق خبرات التعلم الممكنة. والتي يجب دراسة تأثيرها على المدى الطويل على التطور الفكري للمتعلمين الصغار.
رابعاً: التأثير النفسي:
قد يكون لأنظمة الذكاء الاصطناعي التوليدية التي تحاكي التفاعلات البشرية تأثيرات نفسية غير معروفة على المتعلمين، مما يثير المخاوف بشأن تطورهم المعرفي وسلامتهم العاطفية، وحول إمكانية التلاعب.
خامساً: التحيز والتمييز الخفي:
ومع تطوير أنظمة الذكاء الاصطناعي التوليدية الأكثر تطورًا وتطبيقها في التعليم والبحث العلمي، فمن المرجح أن تولد تحيزات وأشكال تمييز جديدة بناءً على بيانات وأساليب التدريب التي تستخدمها النماذج، مما قد يؤدي إلى مخرجات غير معروفة وربما ضارة في العديد من المجالات والتخصصات.