سكرامنتو — أعلنت كاليفورنيا عن فتح تحقيق في الأمر شركة الذكاء الاصطناعي إيلون ماسك xAI يوم الأربعاء، حيث قال الحاكم جافين نيوسوم إن موقع التواصل الاجتماعي المملوك للملياردير هو “أرض خصبة للحيوانات المفترسة لنشر صور مزيفة جنسية صريحة للذكاء الاصطناعي”.
يتضمن Grok، برنامج الدردشة الآلي xAI، ميزات إنشاء الصور التي تسمح للمستخدمين بتحويل الصور الموجودة إلى صور جديدة. يتم بعد ذلك نشر الصور التي تم إنشاؤها حديثًا بشكل عام على X.
في بعض الحالات، أنشأ المستخدمون صورًا جنسية صريحة أو غير توافقية استنادًا إلى أشخاص حقيقيين، بما في ذلك الصور المعدلة التي تظهر الأفراد عاريين جزئيًا أو كليًا. وأنتج آخرون صورًا تبدو وكأنها لقاصرين، مما أثار انتقادات بعدم وجود حواجز حماية كافية لمنع إنشاء مواد إباحية للأطفال.
قال موقع التواصل الاجتماعي سابقًا “إننا نتخذ إجراءات ضد المحتوى غير القانوني على X، بما في ذلك مواد الاعتداء الجنسي على الأطفال (CSAM)، عن طريق إزالته، وتعليق الحسابات بشكل دائم، والعمل مع الحكومات المحلية وجهات إنفاذ القانون حسب الضرورة. أي شخص يستخدم Grok أو يدفعه إلى إنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو قام بتحميل محتوى غير قانوني.”
ووصف نيوسوم الصور الجنسية التي يتم إنشاؤها على المنصة بأنها “حقيرة”. العاطى. وقال الجنرال روب بونتا إن مكتبه سيستخدم “جميع الأدوات المتاحة لنا للحفاظ على سلامة سكان كاليفورنيا”.
وقال بونتا في بيان يوم الأربعاء: “إن الكم الهائل من التقارير التي تتضمن تفاصيل المواد الجنسية الصريحة وغير التوافقية التي أنتجتها شركة XAI ونشرتها عبر الإنترنت في الأسابيع الأخيرة أمر صادم”. “تم استخدام هذه المواد، التي تصور النساء والأطفال في مواقف عارية وجنسية صريحة، لمضايقة الأشخاص عبر الإنترنت. وأنا أحث شركة xAI على اتخاذ إجراءات فورية لضمان عدم المضي قدمًا في هذا الأمر. نحن لا نتسامح مطلقًا مع إنشاء ونشر الصور الحميمة غير التوافقية أو مواد الاعتداء الجنسي على الأطفال باستخدام الذكاء الاصطناعي”.
وقع نيوسوم على مشروعي قانون في عام 2024 يجعل من غير القانوني إنشاء أو امتلاك أو توزيع صور مشحونة جنسيًا للقاصرين حتى عندما يتم إنشاؤها باستخدام أجهزة الكمبيوتر، وليس الكاميرات. دخلت الإجراءات حيز التنفيذ العام الماضي.
مشروع قانون الجمعية 1831، من تأليف عضو الجمعية مارك بيرمان (ديمقراطي مينلو بارك)، وسع نطاق حظر المواد الإباحية للأطفال في الولاية ليشمل المواد التي “تحتوي على تصوير تم تعديله رقميًا أو تم إنشاؤه بواسطة الذكاء الاصطناعي”. [of] ما يبدو أنه شخص يقل عمره عن 18 عامًا” يمارس أو يحاكي سلوكًا جنسيًا. مشروع قانون مجلس الشيوخ رقم 1381، من تأليف السيناتور عائشة وهاب (ديمقراطية من هايوارد)، عدلت قانون الولاية ليحظر بشكل أكثر وضوحًا استخدام الذكاء الاصطناعي لإنشاء صور لأطفال حقيقيين يشاركون في سلوك جنسي، أو استخدام الأطفال كنماذج لاستغلال الأطفال في المواد الإباحية المعدلة رقميًا أو الناتجة عن الذكاء الاصطناعي.
