كشفت صحيفة الغارديان في تحقيق حديث، أن خدمة "نظرة عامة على الذكاء الاصطناعي" من غوغل تقدم أحيانًا معلومات مضللة عند الرد على بعض الاستفسارات المتعلقة بالصحة.
وأشار التقرير إلى أن هذا الأمر دفع غوغل إلى البدء في إزالة الخدمة عن بعض هذه الاستفسارات الحساسة، في خطوة تهدف إلى الحد من انتشار المعلومات غير الدقيقة وحماية المستخدمين.
ووفقًا لِما ذكرته الصحيفة، كان النظام يعرض للمستخدمين عند سؤالهم عن "النطاق الطبيعي لاختبارات الدم للكبد"، أرقامًا لا تأخذ في الاعتبار عوامل جوهرية مثل الجنسية أو الجنس أو العرق أو العمر؛ ما قد يضلل المستخدمين للاعتقاد بأن نتائجهم صحية بينما هي ليست كذلك.
وبناءً عليه، أكدت الغارديان أنه تم بالفعل حذف ملخصات الذكاء الاصطناعي من نتائج البحث عن استعلامات محددة مثل "ما هو النطاق الطبيعي لاختبارات الدم الخاصة بالكبد" و"ما هو النطاق الطبيعي لاختبارات وظائف الكبد".
ومع ذلك، أشار التقرير إلى أن بعض الاختلافات في صياغة الاستعلامات، مثل "النطاق المرجعي لاختبارات وظائف الكبد"، لا تزال تؤدي إلى ظهور ملخصات مولدة بالذكاء الاصطناعي.
وفي تجربة عملية بعد ساعات من نشر التقرير، لوحظ عدم ظهور قسم "نظرة عامة على الذكاء الاصطناعي"، وكانت النتيجة الأولى في بعض الحالات تقرير الغارديان نفسه الذي تحدث عن عملية الإزالة.
من جانبه، صرح متحدث باسم غوغل لصحيفة الغارديان بأن الشركة لا "تعلق على عمليات الحذف الفردية من نتائج البحث"، مؤكداً أنها تعمل على "إجراء تحسينات شاملة".
وأضاف المتحدث أن فريقًا داخليًّا من الأطباء راجع الاستفسارات المعنية ووجد أن"في كثير من الحالات، لم تكن المعلومات غير دقيقة، بل كانت مدعومة بمواقع إلكترونية عالية الجودة".
وفي ردود الأفعال، صرحت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة الكبد البريطانية، لصحيفة الغارديان بأن الإزالة "خبر ممتاز"، لكنها أعربت عن قلقها قائلة: " الخوف الأكبر هو أن غوغل قد تكتفي بإيقاف تشغيل مراجعات الذكاء الاصطناعي لهذا السبب تحديدًا، لكنها لا تعالج القضية الكبرى المتعلقة بمراجعات الذكاء الاصطناعي في مجال الصحة بشكل عام".
