أعلنت شركة OpenAI عن إصدار تحديث أمني جديد لأداة ChatGPT Atlas، بعد اكتشاف فئة جديدة من الهجمات الإلكترونية خلال محاكاة داخلية للأمن السيبراني. ووصف التحديث بأنه "أكثر من مهم"، كونه يعالج المخاطر الرقمية المتصاعدة المرتبطة بالذكاء الاصطناعي.
ويأتي هذا التحديث في وقت تتزايد فيه المخاطر الأمنية للأدوات الذكية القادرة على التفاعل مع الإنترنت واتخاذ إجراءات فعلية، تمامًا كما يفعل المستخدم البشري، ما يجعلها هدفًا أكثر جذبًا للهجمات مقارنةً بالأدوات التقليدية التي تقتصر على الإجابة عن الأسئلة فقط.
وتؤكد OpenAI أن هذا التحديث يعكس حرصها على تعزيز الأمان السيبراني وضمان استقرار أداة ChatGPT في مواجهة التهديدات الرقمية الجديدة، مع استمرار الشركة في مراقبة أي ثغرات محتملة والتعامل معها فورًا.
وفقًا للإعلان، يواجه ChatGPT Atlas تهديدًا متصاعدًا من أسلوب يُعرف باسم حقن الطلبات prompt injection، حيث يحاول المهاجمون إخفاء تعليمات خبيثة داخل محتوى عادي على الويب أو في رسائل البريد الإلكتروني أو المستندات.
وعند معالجتها من قبل الذكاء الاصطناعي، يمكن لهذه التعليمات أن تتجاوز طلبات المستخدم الأساسية وتدفع الذكاء الاصطناعي للقيام بأفعال غير مرغوبة.
على سبيل المثال، يمكن لرسالة بريد إلكتروني تحمل تعليمات خفية أن تجعل الوكيل الذكي يرسل خطاب استقالة إلى مدير المستخدم بدلًا من تنفيذ مهمة بسيطة مثل الرد على الرسالة. وهذا يوضح كيف يمكن لهذه الثغرات أن تغير سلوك الذكاء الاصطناعي بطريقة ضارة.
استجابةً لهذه التهديدات، أضاف التحديث نموذجًا جديدًا تم تدريبه خصيصًا لمقاومة الهجمات العدائية، مع تعزيز آليات الحماية داخل النظام لكي يتعرف على التعليمات الخبيثة ويتصدى لها بدلاً من تنفيذها. كما طورت الشركة ما يعرف بالمهاجم التلقائي، وهو نظام ذكاء اصطناعي يستخدم تقنيات تعلم معزز لمحاكاة هجمات حقيقية معقدة، ما يساعد في اكتشاف نقاط الضعف وتصحيحها قبل أن يتم استغلالها في العالم الواقعي.
يذكر أن ChatGPT Atlas يمكّنه التصفح والتفاعل مع صفحات الويب بنفس الطريقة التي يتفاعل بها البشر، أي فتح الروابط، ملء النماذج، إرسال رسائل البريد الإلكتروني، وهذا يزيد من قيمة الهدف للمهاجمين مقارنةً بالذكاء الاصطناعي التقليدي.
مع ذلك، لم تخفِ OpenAI أن هذا النوع من الهجمات قد يستمر ويظل تحديًا طويل الأجل لا يمكن القضاء عليه تمامًا. وأكدت الشركة أن حقن الطلبات لن يتم القضاء عليه كليًا، على غرار أساليب الاحتيال والهندسة الاجتماعية الأخرى على الويب، وأن الدفاع المستمر وتعزيز الأمان سيكونان أمرين ضروريين في المستقبل.
يعكس هذا التحديث الجديد من OpenAI محاولة فاعلة لمواكبة المخاطر المتجددة في عالم الذكاء الاصطناعي، وخاصة مع انتشار وكلاء ذكاء اصطناعي أكثر قدرة على التفاعل في بيئات الويب المفتوحة.
ومع استمرار تطور الهجمات، تبقى الحاجة إلى تحديثات أمنية مستمرة ومراقبة دقيقة لأداء الأنظمة الذكية أمرًا حيويًا لحماية المستخدمين من الاستغلال الخبيث.
