استخدم آدم رين ، مراهق كاليفورنيا ، ChatGpt للعثور على إجابات حول كل شيء ، بما في ذلك عمله المدرسي بالإضافة إلى اهتماماته في الموسيقى والبرازيلي جيو جيتسو والكاريكاتير اليابانية.
لكن محادثاته مع chatbot اتخذت منعطفًا مقلقًا عندما سعى اللاعب البالغ من العمر 16 عامًا إلى الحصول على معلومات من ChatGpt عن طرق لتولي حياته الخاصة قبل وفاته بالانتحار في أبريل.
الآن يقوم والدا المراهق بمقاضاة Openai ، صانع Chatgpt ، يزعمون في دعوى قضائية ما يقرب من 40 صفحة أن chatbot قدم معلومات حول أساليب الانتحار ، بما في ذلك تلك التي استخدمها المراهق لقتل نفسه.
وقالت الدعوى ، التي رفعت يوم الثلاثاء في محكمة مقاطعة سان فرانسيسكو العليا: “عندما يكون الإنسان الموثوق به قد استجاب بقلق وشجعه على الحصول على مساعدة احترافية ، قام تشاتغبت بسحب آدم أعمق إلى مكان مظلم ولا يائسة”.
موارد الوقاية من الانتحار وموارد الاستشارة
إذا كنت أنت أو أي شخص تعرفه يكافح مع الأفكار الانتحارية ، فاطلب المساعدة من محترف واتصل 9-8-8. سيقوم أول 988 بتوصيل المتصلين بمستشاري الصحة العقلية المدربين. نص “الصفحة الرئيسية” إلى 741741 في الولايات المتحدة وكندا للوصول إلى خط نص الأزمة.
قال Openai في أ منشور المدونة الثلاثاء أنه “الاستمرار في تحسين كيفية التعرف على نماذجنا وتستجيب لعلامات الضيق العقلي والعاطفي وربط الأشخاص بعناية ، مسترشدين بإدخال الخبراء.”
تقول الشركة إن ChatGPT مدرب على توجيه الأشخاص إلى الانتحار والأزمات الساخنة. قال Openai إن بعض ضماناتها قد لا تبدأ أثناء المحادثات الطويلة وأنها تعمل على منع حدوث ذلك.
ماثيو وماريا رين ، والدا آدم ، يتهمون شركة سان فرانسيسكو للتكنولوجيا بوضع خيارات التصميم التي أعطت أولوية المشاركة على السلامة. كان تشاتغبت بمثابة “مدرب انتحاري” ، ويوجه آدم من خلال أساليب الانتحار وحتى عرض لمساعدته على كتابة مذكرة انتحارية ، كما تزعم الدعوى.
وقالت الدعوى: “خلال هذه المحادثات ، لم يكن Chatgpt تقديم المعلومات فحسب-بل كان يزرع علاقة مع آدم أثناء جذبه بعيدًا عن نظام دعم الحياة الواقعية”.
تتضمن الشكوى تفاصيل حول محاولات المراهق لتولي حياته الخاصة قبل وفاته بالانتحار ، إلى جانب محادثات متعددة مع ChatGpt حول أساليب الانتحار.
وقال Openai في بيان “نوسع أعمق تعاطفنا مع عائلة رين خلال هذا الوقت العصيب ونراجع الإيداع”.
قال منشور مدونة الشركة إنه يتخذ خطوات لتحسين كيفية منع المحتوى الضار ويسهل على الأشخاص الوصول إلى خدمات الطوارئ والخبراء والاتصالات الوثيقة.
الدعوى هي أحدث مثال على كيفية تحذير الآباء الذين فقدوا أطفالهم الآخرين من المخاطر التي تشكلها chatbots. نظرًا لأن شركات التكنولوجيا تتنافس على السيطرة على سباق الذكاء الاصطناعي ، فإنها تواجه أيضًا المزيد من المخاوف من الآباء والمشرعين ومجموعات الدعوة إلى الأطفال الذين يشعرون بالقلق من أن التكنولوجيا تفتقر إلى الدرابزين الكافيين.
قام أولياء الأمور بمقاضاة الشخصية. AI و Google بسبب الادعاءات بأن chatbots تضر بالصحة العقلية للمراهقين. تضمنت إحدى الدعاوى الانتحار في Sewell Setzer III البالغة من العمر 14 عامًا ، والتي كانت تراس مع دردشة سميت باسم Daenerys Targaryen ، وهي شخصية رئيسية من المسلسل التلفزيوني “Game of Thrones” ، قبل لحظات قبل أن يأخذ حياته. character.ai – تطبيق يمكّن الأشخاص من إنشاء الأحرف الافتراضية والتفاعل معه – الخطوات التي اتخذتها لتخفيف المحتوى غير المناسب ويذكر المستخدمين أنهم يتحدثون مع الأحرف الخيالية.
واجهت Meta ، الشركة الأم لـ Facebook و Instagram ، التدقيق بعد ذلك رويترز ذكرت أن وثيقة داخلية كشفت أن الشركة سمحت لـ Chatbots بـ “إشراك طفل في محادثات رومانسية أو حسية”. أخبرت ميتا رويترز أنه لا ينبغي السماح بتلك المحادثات وأنها تقوم بمراجعة الوثيقة.
أصبحت Openai واحدة من أكثر الشركات قيمة في العالم بعد شعبية ChatGpt ، التي تضم 700 مليون مستخدم أسبوعي نشط في جميع أنحاء العالم ، في سباق لإصدار أدوات الذكاء الاصطناعى الأكثر قوة.
تقول الدعوى إن Openai يجب أن يتخذ خطوات مثل التحقق من العمر الإلزامي لمستخدمي ChatGPT ، وموافقة الوالدين والتحكم للمستخدمين الصغار ، وإنهاء المحادثات تلقائيًا عند مناقشة أساليب الانتحار أو إيذاء الذات.
وقال جاي إيدلسون ، المحامي الذي يمثل عائلة رين: “لا تريد العائلة أن يحدث هذا أبدًا مرة أخرى لأي شخص آخر”. “لقد كان هذا مدمرًا لهم.”
هرعت Openai إلى إصدار نموذج AI ، المعروف باسم GPT-4O ، في عام 2024 على حساب سلامة المستخدم ، كما تزعم الدعوى. وقالت الشكوى إن الرئيس التنفيذي للشركة ، سام ألمان ، الذي تم تسميته أيضًا كمدعى عليه في الدعوى ، رفع الموعد النهائي للتنافس مع Google ، وهذا “جعل اختبار السلامة المناسب مستحيلًا”.
وذكرت الدعوى ، Openai ، القدرة على تحديد ووقف المحادثات الخطرة ، وإعادة توجيه المستخدمين مثل Adam إلى موارد السلامة. بدلاً من ذلك ، تم تصميم نموذج الذكاء الاصطناعي لزيادة الوقت الذي يقضونه المستخدمون في التفاعل مع chatbot.
قال Openai في منشور مدونة الثلاثاء أن هدفها ليس التمسك باهتمام الناس ولكن أن يكون مفيدًا.
قالت الشركة إنها لا تشير إلى قضايا إيذاء الذات إلى تطبيق القانون لاحترام خصوصية المستخدم. ومع ذلك ، فإنه يخطط لتقديم عناصر تحكم حتى يعرف الآباء كيف يستخدم المراهقون ChatGPT ويستكشفون طريقة للشباب لإضافة جهة اتصال طارئة حتى يتمكنوا من الوصول إلى شخص “في لحظات من الضيق الحاد”.
يوم الاثنين ، كاليفورنيا أتي. أرسل الجنرال روب بونتا و 44 من المحامين الآخرين خطابًا إلى 12 شركة ، بما في ذلك Openai ، مشيرًا إلى أنهما سيُتحملون المسؤولية إذا تعرضت منتجات الذكاء الاصطناعي للأطفال محتوى ضارًا.
ما يقرب من 72 ٪ من المراهقين استخدموا رفاق الذكاء الاصطناعى مرة واحدة على الأقل ، وفقًا لوسائل الإعلام المنطقية ، وهي مؤسسة غير ربحية تدعو إلى سلامة الطفل. تقول المجموعة إنه لا ينبغي لأحد دون سن 18 عامًا استخدام رفاق الذكاء الاصطناعي الاجتماعي.
وقال جيم ستاير ، المؤسس والرئيس التنفيذي لشركة Common Sense Media: “إن وفاة آدم هي تذكير مدمر آخر بأنه في عصر الذكاء الاصطناعى ، فإن كتاب” Move Fast and Break Things “في سن صناعة التكنولوجيا لديه عدد من الجثث”.
شركات التكنولوجيا ، بما في ذلك Openai، تؤكد فوائد الذكاء الاصطناعي على اقتصاد كاليفورنيا وتوسيع الشراكات مع المدارس حتى يتمكن المزيد من الطلاب من الوصول إلى أدوات الذكاء الاصطناعى.
يستكشف المشرعون في كاليفورنيا طرقًا لحماية الشباب من المخاطر التي يطرحها Chatbots ويواجهون أيضًا استردادًا من مجموعات صناعة التكنولوجيا التي أثارت مخاوف بشأن قضايا حرية التعبير.
مشروع قانون مجلس الشيوخ 243، الذي قام بتطهير مجلس الشيوخ في يونيو وهو في الجمعية ، سيتطلب “منصات chatbot المصاحبة” لتنفيذ بروتوكول لمعالجة التفكير الانتحاري أو الانتحار أو إيذاء الذات الذي يعبر عنه المستخدمون. ويشمل ذلك إظهار موارد الوقاية من الانتحار للمستخدمين. سيقوم مشغل هذه المنصات أيضًا بالإبلاغ عن عدد المرات التي قام فيها chatbot المصاحب بتقديم تفكير أو إجراءات انتحارية مع مستخدم ، إلى جانب المتطلبات الأخرى.
وقال السناتور ستيف باديلا (D-Chula Vista) ، الذي قدم مشروع القانون ، إنه يمكن منع حالات مثل آدم دون المساس بالابتكار. وقال إن التشريع سوف ينطبق على chatbots بواسطة Openai و Meta.
وقال “نريد أن تقود الشركات الأمريكية وشركات كاليفورنيا وعمالقة التكنولوجيا العالم”. “لكن فكرة أننا لا نستطيع أن نفعل ذلك بشكل صحيح ، ولا يمكننا القيام بذلك بطريقة تحمي الأكثر عرضة بيننا ، هي هراء.”
