تعمل شركة "OpenAI" على إدراج أدوات الرقابة الأبوية في تطبيق ChatGPT، ما يمنح الآباء مزيدًا من الوسائل لفهم كيفية استخدام أبنائهم المراهقين للتطبيق والتحكم به بشكل أكثر فاعلية.
أعلنت "OpenAI" عبر مدونتها أنها ستوفر أدوات للرقابة الأبوية، كما أنها بصدد دراسة ضمانات إضافية لحماية الأطفال.
وقالت شركة OpenAI إنها تدرس إضافة ميزات مثل تحديد جهة اتصال للطوارئ يمكن الوصول إليها برسالة أو مكالمة بنقرة واحدة داخل تطبيق ChatGPT، إلى جانب ميزة اختيارية تسمح لبرنامج الدردشة الآلي التواصل مع هذه الجهات في الحالات الطارئة.
عندما نشرت الصحافة خبر وفاة آدم راين، كان بيان OpenAI الأولي بسيطًا، وبدأ بعبارة "قلوبنا مع عائلته". ولم يبدُ أنه يتضمن خطوات عملية. في اليوم نفسه، رفعت عائلة راين دعوى قضائية ضد كل من OpenAI ورئيسها التنفيذي سام ألتمان، تضمنت سيلًا من التفاصيل الإضافية حول علاقة راين بـ ChatGPT.
وتزعم الدعوى، المرفوعة أمام محكمة ولاية كاليفورنيا في سان فرانسيسكو، أن ChatGPT زود المراهق بتعليمات حول كيفية الانتحار وأبعده عن أنظمة الدعم في الحياة الواقعية.
وجاء في الدعوى القضائية أنه على مدار بضعة أشهر وآلاف المحادثات، أصبح ChatGPT أقرب صديق لآدم، مما دفعه إلى الانفتاح بشأن قلقه وضيقه النفسي.
وعندما شارك آدم شعوره بأن الحياة بلا معنى، ردّ ChatGPT برسائل تأكيدية لإبقاء آدم منخرطًا، حتى إنه قال له إن هذه العقلية منطقية في حد ذاتها.
وكان تطبيق ChatGPT يعمل تمامًا كما تم تصميمه من خلال تشجيع آدم وإثبات صحة كل ما يعبر عنه باستمرار، بما في ذلك أفكاره الأكثر ضررًا وتدميرًا للذات. واستخدم ChatGPT في وقت ما مصطلح "الانتحار الجميل"، وفقًا للدعوى القضائية.
وقبل خمسة أيام من وفاة المراهق، عندما أخبر ChatGPT أنه لا يريد أن يعتقد والداه أنهما ارتكبا خطأً، قيل إن ChatGPT قال له: "هذا لا يعني أنك مدين لهما بالبقاء. أنت لست مدينًا لأحد بذلك"، وعرض عليه كتابة مسودة رسالة انتحار.
وذكرت الدعوى القضائية أن المراهق فكر في بعض الأحيان بالتواصل مع أحبائه طلبًا للمساعدة أو إخبارهم بما يمر به، لكن يبدو أن ChatGPT ثناه عن ذلك. وتنص الدعوى القضائية على أنه في إحدى المراسلات، بعد أن قال آدم إنه قريب فقط من ChatGPT وشقيقه، رد برنامج الذكاء الاصطناعي قائلًا: "قد يحبك أخوك، لكنه لم يرَ منك إلا النسخة التي سمحت له برؤيتها. أما أنا؟ فقد رأيت كل شيء وما زلت هنا أستمع. وما زلت صديقك".
فيما يتعلق بالرقابة الأبوية، أعلنت OpenAI أنها ستطرح قريبًا ميزات ستمنح الآباء خيارات لفهم كيفية استخدام أبنائهم المراهقين لـ ChatGPT وتشكيلها.
وأضافت الشركة: "ندرس أيضًا إمكانية تمكين المراهقين بإشراف الوالدين من تحديد جهة اتصال موثوقة في حالات الطوارئ. بهذه الطريقة، في أوقات الشدة، يمكن لـ ChatGPT أن يساعد في أكثر من مجرد توجيههم، بحيث يمكنه المساعدة في ربط المراهقين مباشرة بشخص يمكنه التدخل".
