تحذير: تحتوي هذه القصة على تفاصيل حول الانتحار
رفض قاضٍ فيدرالي أمريكي يوم الأربعاء الحجج التي قدمتها شركة ذكاء اصطناعي مفادها أن chatbots محمية بموجب التعديل الأول – على الأقل في الوقت الحالي.
يسعى المطورون الذين يقفون وراء شخصية. AAI إلى رفض دعوى قضائية يدعي أن مفاتيح الدردشة للشركة دفعت صبيًا مراهقًا لقتل نفسه. سيسمح أمر القاضي لدعوى الوفاة غير المشروعة بالمضي قدماً ، فيما يقول الخبراء القانونيون إنه من بين أحدث الاختبارات الدستورية للذكاء الاصطناعي.
تم رفع الدعوى من قبل أم من فلوريدا ، ميغان جارسيا ، التي تزعم أن ابنها سويل سيتزر الثالث البالغ من العمر 14 عامًا وقع ضحية للشخصية.
وقال Meetali Jain من مشروع قانون العدالة التقنية ، أحد محامو جارسيا ، إن أمر القاضي يرسل رسالة مفادها أن وادي السيليكون “يحتاج إلى التوقف والتفكير وفرض الدرابزين قبل إطلاق منتجات إلى السوق”.
الدعوى ضد تقنيات الشخصيات ، الشركة وراء الحرف. لقد لفتت انتباه الخبراء القانونيين ومراقبي الذكاء الاصطناعى في الولايات المتحدة وما بعده ، حيث أن التكنولوجيا تعيد بسرعة أماكن العمل والأسواق والعلاقات على الرغم من ما يحذر الخبراء من مخاطر وجودية.
وقالت ليريسا بارنيت ليدسكي ، أستاذ القانون بجامعة فلوريدا مع التركيز على التعديل الأول والذكاء الاصطناعي: “من المؤكد أن الأمر يضعه كقضية اختبار محتملة لبعض القضايا الأوسع التي تنطوي على الذكاء الاصطناعي”.
تتحدث امرأة مانيتوبا بعد تلقي مكالمة هاتفية قالت إنها كانت عملية احتيال منظمة العفو الدولية تنتحل صوت أحد أفراد أسرته. يقول أحد الخبراء إن استخدام الذكاء الاصطناعي من قبل المحتالين هو الأحدث في عمليات الاحتيال عبر الهاتف.
الدعوى تزعم أن المراهق أصبح معزولًا عن الواقع
تزعم الدعوى أنه في الأشهر الأخيرة من حياته ، أصبح Setzer معزولًا بشكل متزايد عن الواقع أثناء مشاركته في محادثات جنسية مع الروبوت ، الذي كان منقوشًا بعد شخصية خيالية من البرنامج التلفزيوني لعبة العروش.
في لحظاته الأخيرة ، أخبر الروبوت Setzer أنه أحبه وحث المراهق على “العودة إلى المنزل لي في أقرب وقت ممكن” ، وفقًا لقطات الشاشة من البورصات. بعد لحظات من تلقي الرسالة ، أطلق سيتزر النار على نفسه ، وفقًا للملفات القانونية.
في بيان ، أشار متحدث باسم Forme.ai إلى عدد من ميزات السلامة التي نفذتها الشركة ، بما في ذلك الدرابزين للأطفال وموارد الوقاية من الانتحار التي تم الإعلان عنها في اليوم الذي تم فيه رفع الدعوى.
وقال البيان “نحن نهتم بشدة بسلامة مستخدمينا وهدفنا هو توفير مساحة جذابة وآمنة”.
يريد محامو المطورين أن يتم رفض القضية لأنهم يقولون إن chatbots تستحق حماية التعديل الأول ، ويمكن أن يكون للحكم “تأثير تقشعر له الأبدان” على صناعة الذكاء الاصطناعي.
“تحذير للآباء”
في أمرها يوم الأربعاء ، رفضت قاضية المقاطعة الأمريكية آن كونواي بعض مطالبات حرية التعبير المدعى عليهم ، قائلة إنها “غير مستعدة” للاحتفاظ بأن ناتج الدردشة يشكل خطابًا “في هذه المرحلة”.
وجدت كونواي أن تقنيات الشخصية يمكن أن تؤكد حقوق التعديل الأول لمستخدميها ، الذين وجدتها الحق في تلقي “خطاب” الدردشة.
كما قررت أن Garcia يمكنه المضي قدمًا في الادعاءات بأن Google يمكن أن تتحمل مسؤولية دورها المزعوم في المساعدة في تطوير الشخصية. كان بعض مؤسسي المنصة قد عملوا سابقًا على بناء الذكاء الاصطناعي في Google ، وتقول الدعوى إن عملاق التكنولوجيا “يدرك مخاطر” التكنولوجيا.
وقال خوسيه كاستانيدا المتحدث باسم Google: “لا نواجه بشدة هذا القرار”. “Google و Farks.ai منفصلان تمامًا ، ولم تنشئ Google أو تصميمها أو إدارة تطبيق FARTION.AI أو أي جزء مكون منه.”
بغض النظر عن كيفية ظهور الدعوى ، تقول Lidsky إن القضية هي تحذير من “مخاطر تكليف صحتنا العاطفية والعقلية لشركات الذكاء الاصطناعى”.
وقالت: “إنه تحذير للآباء من أن وسائل التواصل الاجتماعي وأجهزة الذكاء الاصطناعى التوليدي ليست غير ضارة دائمًا”.
إذا كنت أو شخص تعرفه يكافح ، فإليك مكان البحث عن المساعدة:
