اكتشف باحثون أمنيون طريقةً لخداع ميزة ملخص البريد الإلكتروني المولّدة بالذكاء الاصطناعي في غوغل لترويج تعليمات خبيثة للمستخدمين غير المدركين.
إذا كنت تعتمد على روبوت الدردشة جيميني من غوغل لتلخيص رسائل البريد الإلكتروني الواردة، فتوخَ الحذر، إذ يمكن إساءة استخدام هذه التقنية أيضًا لشن هجمات تصيد احتيالي.
فيمكن لجيميني نشر الملخصات تلقائيًا في جيميل، مقدمًا لك تحليلًا ميسرًا لجميع النقاط الرئيسة في رسالة البريد الإلكتروني.
لكن تكمن المشكلة في أن رسالة بريد إلكتروني خبيثة تحتوي على تعليمات مخفية في النص يمكنها خداع الذكاء الاصطناعي من غوغل لتحويل الملخص نفسه إلى رسالة تصيد احتيالي.
لتجنب اكتشاف المستخدم للخدعة، يمكن إخفاء المطالبة عن طريق ضبط حجم الخط إلى صفر وتلوين النص باللون الأبيض، ما يجعله غير مرئي في نص البريد الإلكتروني، ولكنه يظل قابلاً للقراءة بواسطة جيميني.
ويمكن لهذا الخلل أن يخدع جيميني لعرض تحذير زائف في ملخص البريد الإلكتروني، يدعي اختراق كلمة مرور جيميل للمستخدم، ويحثه على الاتصال برقم هاتف غوغل وهمي لإصلاح المشكلة.
وبالطبع، قد لا ينطلي هذا الهجوم على العديد من المستخدمين، خاصةً إذا تجاهلوا الملخص الذي أنشأه جيميني أو فحصوا البريد الإلكتروني بدقة. ومع ذلك، يدل هذا التحايل كيف يمكن اختراق المعاينات المولدة بواسطة الذكاء الاصطناعي لأغراض خبيثة.
ومع ذلك، صرحت غوغل بأنها تعمل باستمرار على تعزيز دفاعاتها القوية أصلًا ضد هذه الأنواع من الهجمات العدائية.
ويبدو أيضًا أن الشركة قد أصلحت التهديد من خلال تحديث بدأ يصل إلى المستخدمين. إضافة إلى ذلك، أشارت غوغل إلى أنها لم تصادف أي مجرمي إنترنت يستخدمون روبوت الدردشة جيميني بالطريقة في هجمات نشطة لتصيد المستخدمين.
ونشرت غوغل الشهر الماضي أيضًا تدوينة حول جهودها المستمرة لوقف هجمات "الحقن الفوري" على خدمات الذكاء الاصطناعي الخاصة بها، وأشارت إلى أنها تسد جميع الثغرات التي من شأنها أن تشكل خطرًا على المستخدمين.
