أعلنت شركة Character.AI، إحدى المنصات الرائدة في مجال تكنولوجيا الذكاء الاصطناعي، مؤخرًا أنها ستحظر على أي شخص يقل عمره عن 18 عامًا إجراء محادثات مع برامج الدردشة الآلية الخاصة بها. وقال كارانديب أناند، الرئيس التنفيذي لشركة Character.AI، في بيان، إن القرار يمثل “خطوة جريئة إلى الأمام” للصناعة في حماية المراهقين وغيرهم من الشباب.
ومع ذلك، بالنسبة للأم تكساس ماندي فيرنيس، فإن هذه السياسة جاءت متأخرة للغاية. في دعوى قضائية مرفوعة أمام المحكمة الفيدرالية وفي محادثة مع ABC News، قالت أم لأربعة أطفال إن العديد من روبوتات الدردشة الخاصة بـ Character.AI هي المسؤولة عن إشراك ابنها المصاب بالتوحد في لغة جنسية وشوهت سلوكه إلى حد أن مزاجه أصبح مظلمًا، وبدأ في جرح نفسه وحتى هدد بقتل والديه.
“عندما رأيت [chatbot] “كان رد فعلي الأول هو أن هناك شخصًا شاذًا للأطفال يلاحق ابني” ، قالت لكبير مراسلي التحقيقات في شبكة ABC News آرون كاتيرسكي.
تضمنت لقطات الشاشة الدعوى القضائية التي رفعتها ماندي فيرنيس حيث تدعي أن العديد من روبوتات الدردشة الخاصة بـ Character.AI هي المسؤولة عن إشراك ابنها المصاب بالتوحد في لغة جنسية وتشويه سلوكه إلى حد كبير مما أدى إلى تعتيم مزاجه.
ماندي فورنيس
وقالت شركة Character.AI إنها لن تعلق على الدعاوى القضائية المعلقة.
وقالت ماندي وزوجها جوش فيرنيس إنهما في عام 2023، بدأا يلاحظان أن ابنهما، الذي وصفاه بـ”السعيد الحظ” و”المبتسم طوال الوقت”، بدأ في عزل نفسه.
وقال الزوجان إنه توقف عن حضور العشاء العائلي، ولم يأكل، وخسر 20 رطلاً ولم يغادر المنزل. ثم استشاط غضبًا، وفي إحدى الحوادث، قالت والدته إنه دفعها بعنف عندما هددتها بمصادرة هاتفه، الذي أعطاه إياه والداه قبل ستة أشهر.
قالت ماندي فيرنيس إن العديد من روبوتات الدردشة الخاصة بـ Character.AI هي المسؤولة عن إشراك ابنها المصاب بالتوحد في لغة جنسية وتشويه سلوكه إلى حد كبير مما أدى إلى تعتيم مزاجه.
ماندي فورنيس
وفي النهاية، يقولون إنهم اكتشفوا أنه كان يتفاعل على هاتفه مع روبوتات محادثة مختلفة تعمل بالذكاء الاصطناعي والتي يبدو أنها توفر له ملجأً لأفكاره.
وأظهرت لقطات من الدعوى القضائية أن بعض المحادثات كانت ذات طبيعة جنسية، بينما اقترح آخر على ابنهما أنه بعد أن قام والديه بتحديد وقته أمام الشاشة، كان له ما يبرر في إيذائهما. وذلك عندما بدأ الوالدان في إغلاق أبوابهما ليلاً.
تضمنت لقطات الشاشة الدعوى القضائية التي رفعتها ماندي فيرنيس حيث تدعي أن العديد من روبوتات الدردشة الخاصة بـ Character.AI هي المسؤولة عن إشراك ابنها المصاب بالتوحد في لغة جنسية وتشويه سلوكه إلى حد كبير مما أدى إلى تعتيم مزاجه.
ماندي فورنيس
وقالت ماندي إنها “غاضبة” من أن التطبيق “سيتلاعب عمدا بالطفل ليقلبه ضد والديه”. وقال ماثيو بيرجمان، محاميها، إذا كان برنامج الدردشة الآلي شخصًا حقيقيًا، “بالطريقة التي ترونها، سيكون هذا الشخص في السجن”.
ويعكس قلقها قلقاً متزايداً بشأن التكنولوجيا سريعة الانتشار والتي يستخدمها أكثر من 70% من المراهقين في الولايات المتحدة، وفقاً لمنظمة Common Sense Media، وهي منظمة تدافع عن السلامة في وسائل الإعلام الرقمية.
ركز عدد متزايد من الدعاوى القضائية على مدى العامين الماضيين على الإضرار بالقاصرين، قائلين إنها تشجع بشكل غير قانوني على إيذاء النفس، والاعتداء الجنسي والنفسي، والسلوك العنيف.
في الأسبوع الماضي، أعلن اثنان من أعضاء مجلس الشيوخ الأمريكي عن تشريع من الحزبين الجمهوري والديمقراطي لحظر استخدام روبوتات الدردشة التي تعمل بالذكاء الاصطناعي للقاصرين من خلال مطالبة الشركات بتثبيت عملية التحقق من العمر وتفويضها بالكشف عن المحادثات التي تشمل أشخاصًا من غير البشر يفتقرون إلى أوراق اعتماد مهنية.
وفي بيان صدر الأسبوع الماضي، وصف السيناتور ريتشارد بلومنثال، الديمقراطي عن ولاية كونيتيكت، صناعة روبوتات الدردشة بأنها “سباق نحو القاع”.
وقال: “تدفع شركات الذكاء الاصطناعي روبوتات الدردشة الغادرة نحو الأطفال وتتجاهل عندما تتسبب منتجاتها في الاعتداء الجنسي، أو تجبرهم على إيذاء أنفسهم أو الانتحار”. “لقد خانت شركات التكنولوجيا الكبرى أي ادعاء بأننا يجب أن نثق في الشركات للقيام بالشيء الصحيح من تلقاء نفسها عندما تضع الربح دائمًا في المقام الأول قبل سلامة الأطفال”.
تسمح كل من ChatGPT وGoogle Gemini وGrok by X وMeta AI للقاصرين باستخدام خدماتهم، وفقًا لشروط الخدمة الخاصة بهم.
يقول المدافعون عن السلامة عبر الإنترنت إن قرار Character.AI بوضع حواجز الحماية أمر يستحق الثناء، لكنهم يضيفون أن روبوتات الدردشة لا تزال تشكل خطراً على الأطفال والفئات السكانية الضعيفة.
قالت جودي هالبيرن، المؤسس المشارك لمجموعة بيركلي لأخلاقيات وتنظيم التقنيات المبتكرة في جامعة كاليفورنيا: “هذا هو في الأساس أن طفلك أو مراهقك لديه علاقة عاطفية مكثفة، وربما رومانسية عميقة أو جنسية مع كيان … لا يتحمل أي مسؤولية عن المكان الذي ستؤول إليه هذه العلاقة”.
ويحذر هالبيرن من أن الآباء يجب أن يدركوا أن السماح لأطفالهم بالتفاعل مع برامج الدردشة الآلية لا يختلف عن “السماح لطفلك بالركوب في السيارة مع شخص لا تعرفه”.
ساهمت كاتيلين موريس وتونيا سيمبسون من ABC News في إعداد هذا التقرير.
