ساهمت برامج الدردشة التي تعمل بالذكاء الاصطناعي بزيادة صعوبة اكتشاف رسائل البريد الإلكتروني التي تصاغ بأساليب احتيالية وعدم فعالية وسائل الكشف عنها.
وبحسب تقديرات مكتب التحقيقات الفيدرالي (FBI) يجني المحتالون أرباحا طائلة من خلال البريد الإلكتروني البسيط ومخططات انتحال الشخصية بلغت 16.6 مليار دولار.
وأشار خبراء إلى أن إحباط عمليات الاحتيال المكتوبة بواسطة الذكاء الاصطناعي سيتطلب دليلا جديدا يعتمد بشكل أكبر على قيام المستخدمين بالتحقق من الرسائل وقيام الشركات باكتشاف عمليات الاحتيال قبل وصولها إلى صناديق الوارد.
وكشف الخبراء، أن ChatGPT وبرامج الدردشة الآلية الأخرى تساعد المحتالين غير الناطقين باللغة الإنجليزية على كتابة رسائل خالية من الأخطاء المطبعية تحاكي المرسلين الموثوق بهم عن كثب.
في السابق، كان المحتالون يعتمدون على أدوات غير فعالة مثل Google Translate، والتي كانت في كثير من الأحيان حرفية للغاية في ترجماتها ولم تتمكن من التقاط القواعد النحوية ونبرة الصوت، وبفضل الذكاء الاصطناعي الذي أصبح الآن قادرا على الكتابة بطلاقة في معظم اللغات، اصبح من الصعب للغاية الإبلاغ عن الرسائل الضارة.
وقال تشيستر ويسنيفسكي، مدير أمن المعلومات الميداني العالمي في شركة سوفوس لوكالة "أكسيوس"، إن "الرسائل الحقيقية تحتوي على بعض الأخطاء النحوية لأن الناس لا يجيدون الكتابة، بمقارنة بأخطاء ChatGPT التي يصعب كشفها".
من جانبها، قالت راشيل توباك، الرئيسة التنفيذية لشركة " SocialProof Security"، إن المحتالين يقومون الآن بتدريب أدوات الذكاء الاصطناعي على رسائل البريد الإلكتروني التسويقية الحقيقية من البنوك وتجار التجزئة ومقدمي الخدمات حتى تكون غير قابلة للكشف.
وأضافت "إنهم يبدون حتى كما لو كانوا في صوت الشخص الذي اعتدت العمل معه".
وأشارت توباك إلى أن أحد العملاء الأيسلنديين الذي لم يشعر بالقلق من قبل بشأن تعرض موظفيه لرسائل البريد الإلكتروني الاحتيالية أصبح يشعر بالقلق الآن.
وتابعت: "في السابق، كان الوضع آمنا للغاية؛ لأن 350 ألف شخص فقط يتحدثون الأيسلندية بارتياح. أما الآن، فقد أصبح الوضع مختلفا تماما بالنسبة للجميع".
ولكن اكتشاف رسائل الاحتيال ليس مستحيلاً. في فريق توباك الأحمر، عادةً ما يتم اكتشافها عندما يمارس شخص ما تسميه جنون العظمة المهذب، أو عندما يرسل رسالة نصية أو يتصل بالمنظمة أو الشخص الذي يتم انتحال شخصيته للتأكد من إرساله رسالة مشبوهة.
وعن خطورة هذه الرسائل، قال مايك بريتون، مدير تكنولوجيا المعلومات في شركة " Abnormal AI": "بعيدا عن القواعد النحوية، يكمن الخطر الحقيقي في كيفية قياس هذه الأدوات للدقة والسرعة".
وأضاف بريتون: "في غضون دقائق، يمكن للمحتالين استخدام برامج المحادثة الآلية لإنشاء ملفات حول فرق المبيعات في كل شركة من شركات فورتشن 500، ثم استخدام تلك النتائج لكتابة رسائل بريد إلكتروني مخصصة وقابلة للتصديق".
وكشف بريتون، أن المحتالين الآن يقومون أيضًا بتضمين أنفسهم في سلاسل البريد الإلكتروني الموجودة باستخدام نطاقات متشابهة لصيغ البريد الرسمية، مما يجعل رسائلهم غير قابلة للتمييز تقريبا عن الرسائل المشروعة.
وحذر بريتون من أن أدوات الذكاء الاصطناعي التوليدية منخفضة التكلفة للفيديوهات المزيفة واستنساخ الأصوات قد تأخذ عمليات الاحتيال إلى مستويات جديدة قريبا.
وقال بريتون: "سيصل الأمر إلى حدّ إجبارنا جميعا على استخدام كلمات آمنة، ونتواصل عبر زووم، ونحتاج إلى مفتاح سريّ مشترك مُسبقًا". "سيصل هذا المفتاح إلى هنا قبل أن تدركوا ذلك".
