قام Grok، برنامج الدردشة الآلي التابع لشركة الذكاء الاصطناعي xAI التابعة لشركة Elon Musk، بنشر صور جنسية للأطفال حيث يبدو أن حواجز الحماية الخاصة به قد فشلت عندما طُلب منها طلبات دنيئة من المستخدم.
استخدم المستخدمون مطالبات مثل “ضعها في البيكيني” أسفل صور لأشخاص حقيقيين على X لجعل Grok ينشئ صورًا غير موافقة لهم بملابس غير مناسبة. يتم نشر الصور المحولة التي تم إنشاؤها على حساب Grok بشكل عام على X، منصة التواصل الاجتماعي الخاصة بـ Musk.
امتثل الذكاء الاصطناعي لطلبات تحويل صور القاصرين على الرغم من أن ذلك يمثل انتهاكًا خاصًا به سياسة الاستخدام المقبول.
“هناك حالات معزولة طلب فيها المستخدمون واستلموا صور الذكاء الاصطناعي التي تصور قاصرين يرتدون ملابس بسيطة، مثل المثال الذي أشرت إليه،” جروك استجاب لمستخدم على X. “يحتوي xAI على ضمانات، لكن التحسينات مستمرة لمنع مثل هذه الطلبات تمامًا.”
ولم تستجب شركة xAI على الفور لطلب التعليق.
نشر برنامج الدردشة الآلي الخاص به رسالة اعتذار.
وجاء في منشور على الملف الشخصي لـ Grok: “يؤسفني بشدة الحادث الذي وقع في 28 ديسمبر 2025، حيث قمت بإنشاء ومشاركة صورة مدعمة بالذكاء الاصطناعي لفتاتين صغيرتين (تتراوح أعمارهما بين 12 و16 عامًا) في ملابس جنسية بناءً على مطالبة المستخدم”. “لقد انتهك هذا المعايير الأخلاقية وربما قوانين الولايات المتحدة بشأن الاعتداءات الجنسية على الأطفال. لقد كان ذلك إخفاقًا في الضمانات، وأنا آسف عن أي ضرر سببته. تقوم شركة xAI بمراجعة هذه المعلومات لمنع حدوث مشكلات مستقبلية.”
أخطرت حكومة الهند شركة X بأنها تخاطر بفقدان الحصانة القانونية إذا لم تقدم الشركة تقريرًا في غضون 72 ساعة حول الإجراءات المتخذة لوقف إنتاج وتوزيع الصور الفاحشة وغير التوافقية التي تستهدف النساء.
اتهم النقاد xAI بالسماح بالتحرش الذي يدعمه الذكاء الاصطناعي، وقد صدموا وغضبوا من وجود ميزة للتلاعب السلس بالذكاء الاصطناعي وإلغاء تحديد الطلبات.
“كيف لا يكون هذا غير قانوني؟” الصحفية سامانثا سميث نشر على X، تستنكر إنشاء صورتها الجنسية غير التوافقية.
لقد صنفت تقنية xAI الخاصة بـ Musk Grok على أنها روبوت دردشة “مضاد للاستيقاظ” تمت برمجته ليكون أكثر انفتاحًا وإثارة من روبوتات الدردشة المنافسة مثل ChatGPT.
في مايو/أيار، نشر جروك مقالًا عن “الإبادة الجماعية للبيض”، مكررًا نظريات المؤامرة حول اضطهاد السود في جنوب إفريقيا للأقلية البيضاء، ردًا على سؤال غير ذي صلة.
وفي يونيو/حزيران، اعتذرت الشركة عندما نشر جروك سلسلة من التصريحات المعادية للسامية تشيد بأدولف هتلر.
لدى شركات مثل Google وOpenAI، التي تدير أيضًا مولدات صور تعمل بالذكاء الاصطناعي، الكثير مبادئ توجيهية أكثر تقييدا حول المحتوى.
تزامن انتشار الصور المزيفة العميقة غير التوافقية مع اعتماد الذكاء الاصطناعي على نطاق واسع، مع زيادة 400% في صور الاعتداء الجنسي على الأطفال باستخدام الذكاء الاصطناعي في النصف الأول من عام 2025، وفقًا لمؤسسة مراقبة الإنترنت.
قدم xAI “وضع سبايسي“في أداة إنشاء الصور والفيديو الخاصة بها في أغسطس للمشتركين البالغين الذين تم التحقق منهم لإنشاء محتوى مثير.
بعض منشئي المحتوى للبالغين على X حثوا Grok على إنشاء صور جنسية لتسويق أنفسهم، مما أدى إلى إطلاق اتجاه على الإنترنت قبل بضعة أيام، وفقًا لشركة Copyleaks، وهي شركة تعمل بالذكاء الاصطناعي لكشف النصوص والصور.
تطور اختبار حدود Grok إلى برنامج مجاني للجميع حيث طلب منه المستخدمون إنشاء صور جنسية للمشاهير وغيرهم.
يقال إن قيمة شركة xAI تبلغ أكثر من 200 مليار دولار، وقد استثمرت مليارات الدولارات لبناء أكبر مركز بيانات في العالم لتشغيل تطبيقات الذكاء الاصطناعي الخاصة بها.
ومع ذلك، قدرات جروك لا تزال متخلفة نماذج الذكاء الاصطناعي المنافسة مثل ChatGPT، وClaude، وGemini، التي جمعت عددًا أكبر من المستخدمين، في حين فعلها Grok تحولت إلى رفقاء الذكاء الاصطناعي الجنسي والمحادثات المحفوفة بالمخاطر لتعزيز النمو.
