وقع حاكم ولاية كاليفورنيا جافين نيوسوم يوم الاثنين على مشروع قانون ليصبح قانونًا يهدف إلى جعل روبوتات الدردشة التي تعمل بالذكاء الاصطناعي أكثر أمانًا على الرغم من بعض المعارضة من صناعة التكنولوجيا.
يتطلب التشريع، مشروع قانون مجلس الشيوخ رقم 243، من مشغلي برامج الدردشة الآلية أن يكون لديهم إجراءات لمنع إنتاج محتوى انتحاري أو إيذاء النفس ووضع حواجز حماية، مثل إحالة المستخدمين إلى خط ساخن للانتحار أو خط نصي للأزمات.
مشروع القانون هو من بين العديد من القوانين التي وقعها نيوسوم يوم الاثنين والتي من شأنها أن تؤثر على شركات التكنولوجيا. تناولت بعض التشريعات الأخرى التي وقعها قضايا مثل التحقق من العمر، وعلامات التحذير على وسائل التواصل الاجتماعي، وانتشار المحتوى الجنسي الصريح غير التوافقي القائم على الذكاء الاصطناعي.
وبموجب SB 243، سيُطلب من المشغلين إخطار المستخدمين الصغار كل ثلاث ساعات على الأقل بأخذ قسط من الراحة، وأن روبوت الدردشة ليس بشريًا. وسيُطلب منهم أيضًا تنفيذ “تدابير معقولة” لمنع برامج الدردشة المصاحبة من إنشاء محتوى جنسي صريح.
وقال نيوسوم في بيان: “يمكن للتكنولوجيا الناشئة مثل برامج الدردشة الآلية ووسائل التواصل الاجتماعي أن تلهم أطفالنا وتعلمهم وتتواصل معهم، ولكن بدون حواجز حماية حقيقية، يمكن للتكنولوجيا أيضًا استغلال أطفالنا وتضليلهم وتعريضهم للخطر”.
يُظهر توقيع مشروع القانون كيف تحاول نيوسوم الموازنة بين المخاوف المتعلقة بسلامة الأطفال وريادة كاليفورنيا في مجال الذكاء الاصطناعي.
قال نيوسوم: “يمكننا الاستمرار في الريادة في مجال الذكاء الاصطناعي والتكنولوجيا، لكن يجب علينا أن نفعل ذلك بمسؤولية – لحماية أطفالنا في كل خطوة على الطريق”.
لا تزال بعض مجموعات صناعة التكنولوجيا مثل TechNet تعارض SB 243، كما سحبت مجموعات سلامة الأطفال مثل Common Sense Media وTech Oversight California دعمها لمشروع القانون بسبب “الإعفاءات الملائمة للصناعة”. حددت التغييرات في الفاتورة من يتلقى إشعارات معينة وتضمنت استثناءات لبعض روبوتات الدردشة في ألعاب الفيديو والمساعدين الافتراضيين المستخدمين في مكبرات الصوت الذكية.
وقالت مجموعة الضغط التقنية TechNet، التي تضم بين أعضائها OpenAI وMeta وGoogle وغيرها من المجموعات التجارية، إن تعريف روبوت الدردشة المصاحب واسع جدًا، وفقًا لتحليل التشريع. كما أخبرت المجموعة المشرعين أن السماح للأشخاص باتخاذ إجراءات قانونية بسبب انتهاكات القانون الجديد سيكون “طريقة عقابية مفرطة للتنفيذ”.
لم يعلن نيوسوم عن قرار حتى الآن بشأن مشروع قانون سلامة الذكاء الاصطناعي الأكثر إثارة للجدل، وهو مشروع قانون الجمعية رقم 1064.
سيمنع هذا التشريع الشركات والكيانات الأخرى من إتاحة روبوتات الدردشة المصاحبة للقاصرين في كاليفورنيا ما لم يكن برنامج الدردشة الآلي “قادرًا بشكل متوقع” على ارتكاب سلوك ضار مثل تشجيع الطفل على الانخراط في إيذاء نفسه أو العنف أو اضطراب الأكل.
مجموعات سلامة الطفل وCalifornia Atty. وحث الجنرال روب بونتا الحاكم على التوقيع على AB 1064.
وتعارض شركة ميتا، الشركة الأم لفيسبوك، هذا التشريع وتعارض جمعية صناعة الكمبيوتر والاتصالات. مارست ضغوطًا ضد مشروع القانون، قائلة إنه سيهدد الابتكار وسيضر بشركات كاليفورنيا.
أمام نيوسوم حتى نهاية اليوم ليقرر ما إذا كان سيوقع أو يعترض على AB 1064. ويمكن أن يصبح مشروع القانون أيضًا قانونًا دون توقيع الحاكم. لم يستجب مكتب نيوسوم لطلب التعليق حول AB 1064.
كاليفورنيا هي الشركة الرائدة عالميًا في مجال الذكاء الاصطناعي، وهي موطن ل 32 من أفضل 50 شركة في مجال الذكاء الاصطناعي في جميع أنحاء العالم.
ارتفعت شعبية التكنولوجيا التي يمكنها الإجابة على الأسئلة وإنشاء النصوص والأكواد والصور وحتى الموسيقى بسرعة كبيرة في السنوات الثلاث الماضية. ومع تقدمه، فإنه يعطل الطريقة التي يستهلك بها الناس المعلومات ويعملون ويتعلمون.
منع الانتحار وموارد المشورة في الأزمات
إذا كنت أنت أو أي شخص تعرفه يعاني من أفكار انتحارية، فاطلب المساعدة من أحد المتخصصين واتصل بالرقم 9-8-8. سيقوم أول خط ساخن لأزمات الصحة العقلية مكون من ثلاثة أرقام على مستوى الولايات المتحدة برقم 988 بربط المتصلين بمستشاري الصحة العقلية المدربين. أرسل كلمة “HOME” إلى الرقم 741741 في الولايات المتحدة وكندا للوصول إلى خط نص الأزمة.
ويخشى المشرعون من أن تضر برامج الدردشة الآلية بالصحة العقلية للشباب لأنهم يعتمدون على التكنولوجيا للحصول على الرفقة والمشورة.
رفع الآباء دعوى قضائية ضد OpenAI وCharacter AI وGoogle، زاعمين أن روبوتات الدردشة الخاصة بالشركات أضرت بالصحة العقلية للمراهقين الذين ماتوا بسبب الانتحار.
تقول شركات التكنولوجيا، بما في ذلك Character.AI وصانع ChatGPT OpenAI، إنها تأخذ سلامة الأطفال على محمل الجد، وقد طرحت ميزات جديدة حتى يتمكن الآباء من مراقبة مقدار الوقت الذي يقضيه أطفالهم مع برامج الدردشة الآلية.
لكن الآباء يريدون أيضًا أن يتحرك المشرعون. أدلت ميغان جارسيا، أحد الوالدين، بشهادتها لدعم SB 243، وحثت المشرعين على بذل المزيد من الجهد لتنظيم الذكاء الاصطناعي بعد وفاة ابنها سيويل سيتزر الثالث، الذي انتحر. رفعت الأم في فلوريدا دعوى قضائية ضد منصة chatbot Character.AI العام الماضي، زاعمة أن الشركة فشلت في إخطارها أو تقديم المساعدة لابنها الذي عبر عن أفكار انتحارية لشخصيات افتراضية على التطبيق.
وأشادت بمشروع القانون بعد أن وقعه المحافظ ليصبح قانونًا.
وقال جارسيا في بيان: “العائلات الأمريكية، مثل عائلتي، تخوض معركة من أجل سلامة أطفالنا على الإنترنت”.
