وأظهر باحث أن الجوزاء في Gmail عرضة لهجمات التصيد القائمة على الحقن. وفقًا للباحث ، يمكن معالجة chatbot الذكاء الاصطناعي (AI) الذي يقدم ميزات مثل توليد ملخص البريد الإلكتروني وإعادة كتابة البريد الإلكتروني في عرض رسائل التصيد للمستخدمين. يشكل هذا الضعف مخاطرة كبيرة ، حيث يمكن للمهاجمين استغلالها لإجراء عمليات الاحتيال عبر الإنترنت. وفي الوقت نفسه ، قال عملاق التكنولوجيا القائم على ماونتن فيو إنه لم ير حتى الآن تقنية التلاعب هذه المستخدمة ضد المستخدمين.
يدعي الباحث أن الجوزاء في Gmail عرضة للحقن السريع
وكان الضعف رصدت وأظهرت بقلم الباحث ماركو فيغروا ، مدير برامج Genai Bug Bounty في Mozilla ، عبر برنامج Mozilla’s Bug Bounty لأدوات الذكاء الاصطناعى ، 0din. ومن المثير للاهتمام ، أن تؤدي إلى هذا الضعف ، لا يتعين على المخادع أن يسحب أي سرقة إلكترونية رفيعة المستوى. بدلاً من ذلك ، يمكن تنفيذها بأمر نصي بسيط باستخدام تقنية تُعرف باسم الحقن السريع.
الحقن السريع هو نوع من الهجوم على مجموعات الدردشة من الذكاء الاصطناعى حيث يعالج المهاجم عمداً المدخلات أو موجه لجعل النموذج يتصرف بطرق غير مقصودة أو ضارة. في هذا السيناريو بالذات ، استخدم الباحث حقنًا موجهًا غير مباشر ، حيث يتم تضمين المطالبة الضارة داخل مستند أو بريد إلكتروني أو صفحة ويب.
وفقًا للباحث ، كتب ببساطة بريدًا إلكترونيًا طويلًا وأضف بعض النص الخفي في النهاية ، والذي يحتوي على الحقن السريع. لم يحتوي البريد الإلكتروني على أي عناوين URL أو المرفقات ، مما جعل من السهل الوصول إلى صندوق الوارد الأساسي للمستقبل.
إضافة رسالة ضارة خفية في البريد الإلكتروني
الصورة الائتمان: 0Din/Marco Figueroa
كما هو موضح في الصورة ، استخدم المهاجم خطًا أبيض اللون على صفحة بيضاء لكتابة الرسالة الضارة. هذا النص عادة ما يكون غير مرئي لجهاز استقبال البريد الإلكتروني. تتضمن طرق أخرى لإضافة نص مخفي استخدام حجم خط صفري ، ووضع نص خارج الشاشة ، وحيل HTML أو CSS الأخرى.
الآن ، إذا كان المتلقي يستخدم ميزة Gemini “Emitize Email” ، فسيقوم chatbot بمعالجة النص المخفي وتنفيذ الأمر ، دون اكتشاف المستخدم على الإطلاق. كما أبرز أن احتمال حدوث chatbot بعد الأمر يزداد إذا تم لف الرسالة داخل علامة المسؤول ، حيث يعتبرها طلبًا عالي العالي.
يكرر الجوزاء الحرفي الرسالة الخبيثة في الملخص
الصورة الائتمان: 0Din/Marco Figueroa
أظهر باحث الأمن السيبراني في لقطة شاشة أخرى أن الجوزاء قام بالفعل بالرسالة الضارة وعرضها كجزء من ملخص بريدها الإلكتروني. نظرًا لأن الرسالة تأتي الآن من Gemini ، بدلاً من بريد إلكتروني من شخص غريب محتمل ، قد يكون الضحية أكثر عرضة لتصديقها ومتابعة التعليمات ، وتسقط من أجل عملية الاحتيال.
كمبيوتر bleeping وصلت إلى Google للسؤال عن الضعف ، وقال متحدث باسم الشركة لم تر أي دليل على تلاعب مماثل حتى الآن. بالإضافة إلى ذلك ، تم تسليط الضوء أيضًا على أن Google بصدد تنفيذ بعض عمليات التخفيف من هجمات العدوانية القائمة على الحقن.
