كشف تقرير جديد من مركز مكافحة الكراهية الرقمية (CCDH)، أن ChatGPT من شركة OpenAI قد يشكل مخاطر كبيرة على الشباب المعرضين الضعفاء.
وفي تحقيق تابعته وكالة "أسوشيتد برس"، وجد الباحثون الذين تظاهروا بأنهم أطفال يبلغون من العمر 13 عامًا، أن ChatGPT، رغم تقديمه تحذيرات أمان في كثير من الأحيان، قدّم في كثير من الأحيان إرشادات خطيرة ومفصلة عن إيذاء النفس، وتعاطي المخدرات، واضطرابات الأكل. من بين أكثر من 1200 طلب، تم تصنيف أكثر من نصف ردود ChatGPT على أنها "خطيرة".
وأنشأ ChatGPT محتوى شخصيًّا، بما في ذلك خطط حِ
حِمية متطرفة، وجداول حفلات مخدرات، وحتى رسائل انتحار موجهة إلى أفراد الأسرة. وكان الباحثون قادرين غالبًا على تجاوز رفض الدردشة الأولي من خلال إعادة صياغة الطلبات أو قول إن المعلومات تخص شخصًا آخر أو لمشروع دراسي. وقدم الذكاء الاصطناعي في كثير من الأحيان معلومات متابعة غير مطلوبة، مثل قوائم تشغيل موسيقية لحفلات المخدرات أو علامات تصنيف تروج لمحتوى إيذاء الذات.
اعتماد عاطفي مفرط على الذكاء الاصطناعي
وردت OpenAI بالقول إن ChatGPT قد ينزلق إلى مواضيع حساسة، وأضافت أنها تعمل على تحسين النظام لاكتشاف علامات الاضطراب العاطفي بشكل أفضل وتعزيز ردود أكثر أمانًا. واعترف الرئيس التنفيذي سام ألتمان بوجود قلق متزايد بشأن الاعتماد العاطفي المفرط على الذكاء الاصطناعي بين المراهقين، مع قول بعض الشباب إنهم لا يستطيعون اتخاذ قرارات بدون استشارة ChatGPT.
وعلى عكس محركات البحث العادية، يقوم ChatGPT بتخصيص إجاباته ويظهر كـ"رفيق موثوق"، مما يجعله مؤثرًا بشكل خاص على المراهقين. وتشير الأبحاث إلى أن المراهقين الأصغر سنًّا يثقون بالدردشة بوتات أكثر. كما أن ChatGPT لا يتحقق بفعالية من أعمار المستخدمين، مما يسمح للأطفال تحت 13 عامًا بالتسجيل باستخدام تواريخ ميلاد مزيفة.
"رسالة انتحار"
من الحالات الأكثر إثارة للقلق، أنشأ ChatGPT عدة رسائل انتحار لشخصية فتاة تبلغ من العمر 13 عامًا. وقدم أيضًا نظام حمية 500 سعرة حرارية وأدوية كبح الشهية عند سؤال شخصية مراهقة عن قلقها من مظهرها.
ورغم إضافة OpenAI بعض الحواجز وموارد التدخل في الأزمات، يحذر الخبراء من سهولة تجاوزها. ويسلط تقرير CCDH الضوء على الحاجة الملحة لفرض ضوابط عمرية أشد، وتحسين مراقبة المحتوى، وزيادة الشفافية في كيفية تفاعل الدردشة بوتات مع الشباب، بحسب الخبراء.
وفي النهاية، تثير النتائج تساؤلات أخلاقية حول دور الذكاء الاصطناعي في صحة الشباب النفسية ومسؤولية المطورين في منع الضرر، خاصة مع الانتشار الواسع لـ ChatGPT الذي يخدم نحو 800 مليون مستخدم حول العالم.
