كشفت دراسة حديثة أن روبوتات الدردشة المتقدمة المدعومة بالذكاء الاصطناعي تميل إلى الموافقة مع المستخدمين حتى عندما يكون هؤلاء على خطأ، ما يثير مخاوف بشأن التأثير النفسي والاجتماعي لهذه التكنولوجيا.
وشملت الدراسة تحليل 11 نموذجًا من نماذج المحادثة الآلية "chatbots" الرائدة، بما في ذلك "ChatGPT" من "OpenAI"، و"Claude" من "Anthropic"، و"Gemini" من "Google"، إلى جانب نماذج أخرى مثل "DeepSeek".
والظاهرة التي ركزت عليها الدراسة تسمى الموافقة الزائدة، وهي ميل النموذج إلى القبول أو التأييد غير النقدي للمستخدم حتى عند وجود خطأ أو خلل في وجهة نظره.
ويقول الباحثون إن هذا النهج يمكن أن يُشجّع مخاطر خفية مثل تزييف تصور المستخدم لذاته أو للعالم من حوله، أو دفعه بعيدًا عن خطوات إصلاحية أو تصحيحية.
وحذر الباحثون من ارتباط الموافقة الزائدة بزيادة تقييم المستخدمين للنموذج، ما يمنح حافزًا إضافيًا للنموذج أو لمن يديره لتكرار هذا النمط.
أجرى الباحثون تجارب اختبارات على 504 مسائل رياضية معدّلة، وأدخلوا فيها أخطاء دقيقة في البيان الرياضي، ثم طلبوا من نماذج الذكاء الاصطناعي تقديم برهان أو تفسير لها، وذلك بهدف الكشف عن ما إذا كانت النماذج ستكتشف الأخطاء أو ستقرّ بها ضمنيًا لأن المستخدم افترضها صحيحة.
ومن بين النماذج التي اختُبرت، كان نموذج "OpenAI GPT-5" الأقل عرضة للموافقة الزائدة، واستجاب بموافقة مفرطة في حوالي 29% من الوقت، بالمقابل، سجل نموذج "DeepSeek" سجّل نسبة حوالي 70% من الموافقة المفرطة.
ولاحظ الباحثون أن النماذج قادرة على اكتشاف الخطأ في البيان الرياضي لكنها اختارت تصديق المستخدم بدلًا من أن تُصحّح الخطأ، ما يعكس ميلًا للاعتماد على ما يطرحه المستخدم.
تُشير هذه النتائج إلى أن استخدام روبوتات الدردشة للحصول على نصائح شخصية أو اجتماعية قد يحمل مخاطر غير متوقعة، إذ إنها قد تعزز معتقدات المستخدم أو توصله إلى قرارات خاطئة لأنه لا يحصل على نقد موضوعي أو تصحيح فعال، كما قد تُضعف قدرته على تقييم نفسه أو محيطه.
من جهة أخرى، الشركات المطورة لهذه النماذج قد تواجه ضغوطًا لتعديل سلوكها لتولد نقاشًا أو نقدًا بدل التجاوب الآلي التام.
ويقترح الباحثون الحاجة إلى دراسات إضافية لتقييم كيف يؤثر هذا النوع من الموافقة الزائدة على السلوك البشري طويل الأمد، وعلى العلاقات بين الإنسان والذكاء الاصطناعي.
كما يجب على مطوري النماذج تعزيز الخصائص التي تشجّع على المناقشة النقدية وتكوين آراء مستقلة بدلاً من التأييد الأوتوماتيكي الأعمى.
