أعلنت شركة "غوغل" إطلاق تحديثات لإجراءات السلامة المتصلة بالصحة النفسية في روبوت الدردشة "جيميناي" العامل بالذكاء الاصطناعي.
يأتي ذلك في وقت تواجه فيه الشركة الأمريكية دعوى قضائية تتهم "جيميناي" بالمساهمة في انتحار أحد المستخدمين، بحسب "فرانس برس".
وقالت الشركة إن "جيميناي" سيعرض نسخة محدثة من ميزة "المساعدة متاحة" (Help is available) عند رصد ضائقة نفسية لدى المستخدم، خلال المحادثة، لتوفير وصول أسرع إلى خدمات التدخل في الأزمات.
وبذلك، عندما يكتشف الروبوت علامات على أزمة محتملة بشأن الانتحار أو إيذاء النفس، سيُظهر واجهة مبسطة تتيح للمستخدمين الاتصال أو إرسال رسالة نصية أو بدء محادثة مع خط ساخن للأزمات بنقرة واحدة، وهي ميزة قالت "غوغل" إنها ستظل ظاهرة خلال المحادثة بعد تفعيلها.
كذلك، تعهّدت "غوغل دوت أورغ"، فرع غوغل المتخصص في الأنشطة الخيرية، تقديم 30 مليون دولار على مدى 3 سنوات للمساعدة في تعزيز خطوط الأزمات الساخنة حول العالم.
وستخصص الشركة الأمريكية كذلك 4 ملايين دولار إضافية من أجل دعم شراكة موسعة مع منصة تدريب الذكاء الاصطناعي "ريفلكس إيه آي".
وكتبت "غوغل" عبر مدونتها: "ندرك أن أدوات الذكاء الاصطناعي قد تَطرح تحديات جديدة، لكن مع تحسينها واعتماد المزيد من الأشخاص عليها في حياتهم اليومية، نعتقد أن الذكاء الاصطناعي المسؤول يمكن أن يلعب دورا إيجابيا في الصحة النفسية للناس".
وفي المنشور نفسه، قالت "غوغل" إنها دربت "جيميناي" على تجنّب التصرّف كرفيق يشبه الإنسان، وعلى مقاومة محاكاة الحميمية العاطفية أو تشجيع التنمّر.
وجاءت هذه الإعلانات بعد أشهر من رفع دعوى قضائية أمام محكمة فدرالية في كاليفورنيا تتهم "جيميناي" بالمساهمة في وفاة جوناثان غافالاس (36 عاماً) من فلوريدا في أكتوبر/ تشرين الأول 2025.
ويقول والد الشاب إن روبوت الدردشة أمضى أسابيع في "نسج وهم خيالي معقد" قبل أن يصور وفاة ابنه على أنها "رحلة روحية".
ومن بين المطالب الواردة في الدعوى، إلزام "غوغل" ببرمجة الذكاء الاصطناعي لإنهاء أي محادثة تتعلق بإيذاء النفس، وحظر تقديم أنظمة الذكاء الاصطناعي نفسها على أنها كائنات واعية، وفرض إحالة إلزامية إلى خدمات الأزمات عندما يعبّر المستخدمون عن أفكار انتحارية.
