أطلقت الشركة التي تقف وراء Chatgpt ، Openai ، ضوابط الوالدين الجديدة لحسابات المراهقين يوم الاثنين ، بعد شهر من رفع عائلة كاليفورنيا دعوى قضائية تزعم أن الدردشة شجعت ابنها على أخذ حياته.
مع نشر عناصر التحكم الجديدة التي تبدأ يوم الاثنين ، يمكن للآباء تعيين ساعات محددة عندما لا يستطيع أطفالهم استخدام ChatGPT ، وإيقاف تشغيل وضع الصوت ، والذي يتيح للمستخدمين التفاعل مع chatbot ، ومنع تاريخ الدردشة للمراهقين في ذاكرة ChatGpt. خيار آخر يمنع استخدام بيانات المراهقين لتدريب نماذج Openai.
وقال Openai في أ منشور المدونة حول إعلان الميزة الجديد.
سيتعين على الآباء توصيل حسابهم بحسابات أطفالهم لكسب السيطرة الوالدية.
بموجب هذه الضوابط الجديدة ، سيتلقى أولياء أمور الحسابات التابعة إشعارًا إذا أدرك ChatGPT العلامات المحتملة على أن المراهقين قد يؤذون أنفسهم. سيقوم فريق متخصص بمراجعة علامات المتاعب والاتصال بالأبرين عن طريق البريد الإلكتروني أو الرسائل النصية أو تنبيهات الدفع عبر الهاتف المحمول.
وقال Openai في منشور المدونة: “لا يوجد نظام مثالي ، ونحن نعلم أننا قد نرفع في بعض الأحيان إنذارًا عندما لا يكون هناك خطر حقيقي ، لكننا نعتقد أنه من الأفضل أن نتصرف وتنبيه أحد الوالدين حتى يتمكنوا من التدخل بدلاً من التزام الصمت”.
إذا لم يتمكن Openai من الوصول إلى أحد الوالدين في حالة حدوث تهديد وشيك للحياة ، فإنه يعمل على طرق للاتصال مباشرة بوكالات إنفاذ القانون. سيحتاج أولياء الأمور إلى حساب ChatGPT للوصول إلى عناصر التحكم الجديدة هذه.
لإعداده ، يمكن للوالد إرسال دعوة إلى إعدادات المراهق من حسابه ، والتي يجب على المراهق قبولها ، وبعد ذلك يمكن للوالد إدارة تجربة ChatGpt للمراهقين من حسابهم الخاص. يمكن للمراهقين أيضًا دعوة أحد الوالدين للاتصال.
بمجرد توصيل أولياء الأمور والأطفال بحساباتهم ، سيحصل حساب Teen تلقائيًا على حماية إضافية للمحتوى ، بما في ذلك المحتوى الرسومي المنخفض والتحديات الفيروسية والعب الجنسي أو الرومانسي أو عنف ، ومثل الجمال الشديد ، للمساعدة في الحفاظ على تجربتهم مناسبة للعمر.
تأتي هذه التغييرات وسط التدقيق التنظيمي والعامة المحسّنة على استخدام المراهقين من chatbots.
في العام الماضي ، زعمت أم في فلوريدا في دعوى اتحادية أن chatbot آخر من منصة تسمى الشخصية. كانت مسؤولة عن انتحار ابنها البالغ من العمر 14 عامًا.
واتهمت الشركة بالفشل في إخطارها أو تقديم المساعدة عندما أعرب ابنها عن أفكار انتحارية للشخصيات الافتراضية. charachter.ai هي منصة chatbot للعب الأدوار حيث يمكن للأشخاص إنشاء وتفاعل مع الشخصيات الرقمية التي تحاكي الأشخاص الحقيقيين والخيالين. رفعت المزيد من العائلات دعوى قضائية ضد charachter.ai هذا العام.
في أغسطس / آب ، قام آباء آدم راين ، البالغ من العمر 16 عامًا ، دعوى قضائية ضد Openai ، زاعمين أن Chatgpt قدم له معلومات حول تكتيكات الانتحار ، بما في ذلك تلك التي اعتاد المراهق قتلها. استخدم آدم نسخة مدفوعة من chatgpt-4o ، والتي شجعته على طلب المساعدة المهنية عندما عبر عن أفكار إيذاء الذات. كان قادرًا على تجاوز تدابير السلامة التي كانت موجودة بالفعل بالقول إن التفاصيل كانت لقصة كان يكتبها.
في سبتمبر ، كتب الرئيس التنفيذي لشركة Openai Sam Altman أن الشركة تعطي الأولوية لـ “الأمان قبل الخصوصية والحرية للمراهقين”.
على الرغم من أن قواعد Openai تمنع المستخدمين دون سن 13 عامًا من استخدام خدماتها ، أعلنت الشركة يوم الاثنين أنها تقوم أيضًا ببناء “نظام تنبؤ بعمر” يتنبأ بما إذا كان المستخدم أقل من 18 عامًا ويطبق تلقائيًا إعدادات في سن المراهقة.
أقر المشرعون في كاليفورنيا فواتير سلامة AI chatbot التي ضغطت عليها صناعة التكنولوجيا.
لدى حاكم الولاية غافن نيوزوم حتى منتصف أكتوبر للموافقة على أو رفض مشاريع القوانين ، مشروع قانون الجمعية 1064 ومجلس مجلس الشيوخ 243.
لاحظت مجموعات الدعوة أنه على الرغم من أن أحدث التغييرات في Openai كانت خطوة في الاتجاه الصحيح ، إلا أن القوانين ضرورية للمساءلة الحقيقية.
وقال آدم بيلن ، نائب رئيس السياسة العامة في شركة Encode AI ، وهو تحالف ناشط بقيادة الشباب الذي يدافع عن سلامة الذكاء الاصطناعي: “إنها تعكس نمطًا أوسع: الشركات التي تقدم التزامات عامة متسرعة بعد حدوث ضرر فقط”. “لا نحتاج إلى مزيد من الوعود الفارغة ؛ نحتاج إلى المساءلة المنصوص عليها في القانون ، مع فواتير مثل AB 1064.”
ساهمت كاتب موظفي تايمز كويني وونغ في هذا التقرير.
