وبحسب ما ورد كان لدى Meta AI ثغرة أمنية يمكن استغلالها للوصول إلى محادثات المستخدمين الخاصة الآخرين مع chatbot. لم يتطلب الوصول إلى هذا الخطأ اقتحام خوادم Meta أو معالجة رمز التطبيق ؛ بدلاً من ذلك ، يمكن تشغيله بمجرد تحليل حركة مرور الشبكة. وفقًا للتقرير ، وجد باحث الخطأ في أواخر العام الماضي وأبلغ عملاق وسائل التواصل الاجتماعي في Menlo Park به. ثم نشرت الشركة إصلاحًا في القضية في يناير ، ومكافأة الباحث على العثور على الاستغلال.
وفقا ل techcrunch تقرير، اكتشف Sandeep Hodkasia ، مؤسس AppSecure ، وهي شركة اختبار أمان. وبحسب ما ورد أبلغ الباحث ميتا عن ذلك في ديسمبر 2024 وتلقى مكافأة مكافأة حشرة قدرها 10،000 دولار (حوالي 8.5 روبية لكح). وقال المتحدث الرسمي باسم META ريان دانيلز للمنشور أن القضية تم إصلاحها في يناير ، وأن الشركة لم تجد أي دليل على الطريقة التي يستخدمها الجهات الفاعلة السيئة.
يقال إن الضعف كان في كيفية ميتا منظمة العفو الدولية مطالبات المستخدم المعالجة على خوادمه. أخبر الباحث المنشور أن AI chatbot يعين معرفًا فريدًا لكل موجه واستجاباته التي تم إنشاؤها من الذكاء الاصطناعى كلما حاول المستخدم المسجّل تعديل المطالبة لتجديد صورة أو نص. في حالة الاستخدام العام ، تكون مثل هذه الحوادث شائعة جدًا ، حيث يحاول معظم الناس محادثة الحصول على استجابة أفضل أو صورة مرغوبة.
وبحسب ما ورد وجد Hodkasia أنه يمكنه الوصول إلى رقمه الفريد من خلال تحليل حركة مرور الشبكة على المتصفح أثناء تحرير موجه الذكاء الاصطناعي. بعد ذلك ، من خلال تغيير الرقم ، يمكن للباحث الوصول إلى استجابة شخص آخر ومخصصة لمنظمة العفو الدولية. ادعى الباحث أن هذه الأرقام “يمكن تخمينها بسهولة” وأن إيجاد هوية شرعية أخرى لم يبذل الكثير من الجهد.
في الأساس ، كان الضعف موجودًا في الطريقة التي تعامل بها نظام الذكاء الاصطناعي مع ترخيص هذه المعرفات الفريدة ، ولم يضع تدابير أمنية كافية للتحقق من من كان يصل إلى هذه البيانات. هذا يعني ، في أيدي ممثل سيء ، يمكن أن تؤدي هذه الطريقة إلى المساس بكمية كبيرة من البيانات الخاصة للمستخدمين.
والجدير بالذكر ، أ وجد التقرير الشهر الماضي أن موجز اكتشاف تطبيق Meta AI تمتلئ بالوظائف التي بدا أنها محادثات خاصة مع chatbot. وشملت هذه الرسائل طلب المشورة الطبية والقانونية ، وحتى الاعتراف بالجرائم. في وقت لاحق من يونيو ، بدأت الشركة في إظهار رسالة تحذير لإثني الناس عن مشاركة محادثاتهم بشكل غير مدرك.
