يريد المشرعون في كاليفورنيا أن يوافق حاكم غافن نيوزوم على الفواتير التي اجتازوها والتي تهدف إلى جعل أكوبرات الذكاء الاصطناعي أكثر أمانًا. لكن بينما يزن الحاكم ما إذا كان سيوقع على التشريع في القانون ، فإنه يواجه عقبة مألوفة: اعتراضات من شركات التكنولوجيا التي تقول إن القيود الجديدة ستعيق الابتكار.
الشركات في كاليفورنيا هي قادة عالميين في الذكاء الاصطناعى وأنفقت مئات المليارات من الدولارات للبقاء في المقدمة في السباق لإنشاء أقوى الدردشة. لقد أزعجت الوتيرة السريعة الوالدين والمشرعين الذين يشعرون بالقلق من أن بوتس تضر بالصحة العقلية للأطفال من خلال تعريضهم لمحتوى إيذاء الذات وغيرها من المخاطر.
شجع الآباء الذين يزعمون chatbots المراهقين على الأذى أنفسهم قبل وفاتهم من قبل الانتحار قد رفعوا دعوى قضائية ضد شركات التكنولوجيا مثل Openai و Technologies و Google. لقد دفعوا أيضًا لمزيد من الدرابزين.
ارتدت الدعوات لمزيد من تنظيم الذكاء الاصطناعي في جميع أنحاء عاصمة البلاد والدول المختلفة. حتى كما إدارة ترامب “خطة عمل الذكاء الاصطناعي” يقترح قطع الشريط الأحمر لتشجيع تنمية الذكاء الاصطناعي ، يقوم المشرعون والمنظمون من كلا الطرفين بمعالجة مخاوف سلامة الطفل المحيطة بمواطن الدردشة التي تجيب على الأسئلة أو بمثابة الصحابة الرقمية.
أقر المشرعون في كاليفورنيا هذا الشهر مشروعي سلامة AI chatbot الذي ضغطت عليه صناعة التكنولوجيا. لدى Newsom حتى منتصف أكتوبر للموافقة عليها أو رفضها.
قرار المخاطر العالية يضع الحاكم في مكان صعب. يريد السياسيون وشركات التكنولوجيا على حد سواء أن يؤكد للجمهور أنهم يحميون الشباب. في الوقت نفسه ، تحاول شركات التكنولوجيا توسيع استخدام chatbots في الفصول الدراسية وتعارض قيودًا جديدة يقولون إنها تذهب بعيدًا.
موارد الوقاية من الانتحار وموارد الاستشارة
إذا كنت أنت أو أي شخص تعرفه يكافح مع الأفكار الانتحارية ، فاطلب المساعدة من محترف واتصل 9-8-8. سيقوم أول 988 بتوصيل المتصلين بمستشاري الصحة العقلية المدربين. نص “الصفحة الرئيسية” إلى 741741 في الولايات المتحدة وكندا للوصول إلى خط نص الأزمة.
وفي الوقت نفسه ، إذا كان Newsom يمر للرئاسة في عام 2028 ، فقد يحتاج إلى مزيد من الدعم المالي من رواد الأعمال الأثرياء. في 22 سبتمبر ، روجت Newsom شراكات الولاية مع شركات التكنولوجيا على جهود الذكاء الاصطناعى وترويت كيف أن صناعة التكنولوجيا قد غذت اقتصاد كاليفورنيا ، واصفة الدولة بأنها “مركز الابتكار الأمريكي”.
لقد اعترض على تشريع أمان الذكاء الاصطناعى في الماضي ، بما في ذلك أ فاتورة في العام الماضي ، قسمت صناعة التكنولوجيا في وادي السيليكون لأن الحاكم اعتقد أنه أعطى الجمهور “إحساسًا كاذبًا بالأمان”. لكنه أشار أيضًا إلى أنه يحاول تحقيق توازن بين معالجة مخاوف السلامة وضمان استمرار شركات التكنولوجيا في كاليفورنيا في السيطرة على الذكاء الاصطناعي.
“لدينا شعور بالمسؤولية والمساءلة لقيادة ، لذلك نحن ندعم المخاطر ، ولكن ليس التهور” ، وقال Newsom في أ مناقشة مع الرئيس السابق كلينتون في حدث مبادرة كلينتون العالمي يوم الأربعاء.
يهدف مشروعي قانونان إلى الحاكم – مشروع قانون الجمعية 1064 ومجلس الشيوخ بيل 243 – إلى جعل AI chatbots أكثر أمانًا ولكن يواجهان معارضة شديدة من صناعة التكنولوجيا. ليس من الواضح ما إذا كان الحاكم سيوقع كلا المشروعين. ورفض مكتبه التعليق.
AB 1064 يمنع شخص وشخصية وغيرها من كيان من إتاحة دردشة الدردشة المصاحبة إلى أحد سكان كاليفورنيا دون سن 18 ما لم يكن chatbot “قادرًا بشكل متوقع” على السلوك الضار مثل تشجيع الطفل على الانخراط في إيذاء الذات أو العنف أو الأكل المضطربة.
يتطلب SB 243 من مشغلي chatbots المصاحبة لإخطار بعض المستخدمين بأن المساعدين الافتراضيين ليسوا بشرًا.
بموجب مشروع القانون ، سيتعين على مشغلي chatbot إجراء إجراءات لمنع إنتاج محتوى الانتحار أو إيذاء الذات ووضعهم في الدرابزين ، مثل إحالة المستخدمين إلى خط ساخن للانتحار أو خط نص الأزمات.
سيُطلب منهم إخطار المستخدمين الصغار كل ثلاث ساعات على الأقل لأخذ قسط من الراحة ، وأن chatbot ليس بشريًا. سيُطلب من المشغلين أيضًا تنفيذ “تدابير معقولة” لمنع برامج الدردشة المصاحبة من توليد محتوى صريح جنسيًا.
وقالت مجموعة الضغط التقنية Technet ، التي تشمل أعضائها Openai و Meta و Google وآخرون ، في بيان إنها “تتفق مع نية الفواتير” لكنها لا تزال معارضة لهم.
قال روبرت بويكين ، المدير التنفيذي لشركة Technet في كاليفورنيا والجنوب الغربي ، في بيان: “يفرض AB 1064” تفرض قيودًا غامضة وغير قابلة للتطبيق تخلق مخاطر قانونية شاملة ، بينما يمنع الطلاب من أدوات تعلم الذكاء الاصطناعى القيمة “. “SB 243 يحدد قواعد أوضح دون منع الوصول ، لكننا ما زلنا نشعر بالمخاوف من نهجها.”
وقال متحدث باسم Meta إن الشركة لديها “مخاوف بشأن العواقب غير المقصودة التي ستكون تدابير مثل AB 1064”. أطلقت شركة التكنولوجيا جديدة سوبر باك لمكافحة لائحة منظمة العفو الدولية التي تعتقد الشركة أنها مرهقة للغاية ، وتضغط من أجل مزيد من السيطرة على الوالدين حول كيفية استخدام الأطفال لمنظمة العفو الدولية ، البديهية ذكرت يوم الثلاثاء.
خصوم بقيادة صناعة الكمبيوتر والاتصالات ASSN. تم الضغط عليها بقوة ضد AB 1064 ، قائلاً إنها ستهدد الابتكار والحرمان من شركات كاليفورنيا التي ستواجه المزيد من الدعاوى القضائية وعليها أن تقرر ما إذا كانت تريد مواصلة العمل في الولاية.
مجموعات الدعوة ، بما في ذلك Common Sense Media ، وهي مؤسسة غير ربحية ترعا AB 1064 وتوصي بعدم استخدام القاصرين رفاق الذكاء الاصطناعى ، تحث Newsom على توقيع مشروع القانون في القانون. كاليفورنيا أتي. الجنرال روب بونتا يدعم الفاتورة.
وقالت مؤسسة Frontier Electronic SB 243 واسعة للغاية وستواجه مشكلات في الحديث الحرة.
قامت عدة مجموعات ، بما في ذلك وسائل الإعلام المنطقية والإشراف على التكنولوجيا ، بإزالة دعمها لـ SB 243 بعد إجراء تغييرات على الفاتورة ، والتي قالوا إنها ضعيفة الحماية. بعض التغييرات المحدودة التي تتلقى إخطارات معينة وشملت إعفاءات لبعض الدردشة في ألعاب الفيديو والمساعدين الظاهريين المستخدمة في مكبرات الصوت الذكية.
يريد المشرعون الذين قدموا تشريعات سلامة chatbot أن يوقع الحاكم على كلا المشروعين ، بحجة أنه يمكنهم “العمل في وئام”.
قال السناتور ستيف باديلا (D-Chula Vista) ، الذي قدم SB 243 ، إنه حتى مع التغييرات التي لا يزال يعتقد أن القواعد الجديدة ستجعل منظمة العفو الدولية أكثر أمانًا.
وقال: “لدينا تقنية لها إمكانات كبيرة من أجل الخير ، وهي قوية بشكل لا يصدق ، ولكنها تتطور بشكل سريع بشكل لا يصدق ، ولا يمكننا تفويت نافذة لتزويد الدرابزين المنطقي هنا لحماية الناس”. “أنا سعيد بمكان وجود مشروع القانون.”
وقالت عضو الجمعية ريبيكا باور-خان (دي-أوريندا) ، التي شاركت في كتابة AB 1064 ، إن مشروع قانونها يوازن بين فوائد الذكاء الاصطناعي أثناء حماية المخاطر.
وقالت: “نريد أن نتأكد من أنه عندما يشارك الأطفال مع أي شاتيبوت بأنه لا يخلق ارتباطًا عاطفيًا غير صحيح ، وتوجيههم نحو الانتحار ، والأكل المضطرب ، فإن أيًا من الأشياء التي نعرفها ضارة للأطفال”.
خلال الجلسة التشريعية ، سمع المشرعون من الآباء الذين فقدوا أطفالهم. AB 1064 يسلط الضوء على اثنين من الدعاوى البارزة: واحدة ضد San Francisco Chatgpt Maker Openai وآخر ضد Technologies ، مطور Chatbot Platform.
الحرف هي منصة يمكن للأشخاص فيها إنشاء الشخصيات الرقمية والتفاعل مع الأشخاص الحقيقيين والخيالين. في العام الماضي ، زعمت أمي في فلوريدا ميغان جارسيا في دعوى اتحادية تفيد بأنها الشخصية. أضرت برامج الدردشة في الصحة العقلية لابنها سيويل سيتزر الثالث واتهمت الشركة بفشلها في إخطارها أو تقديم المساعدة عندما عبر عن أفكار الانتحار للشخصيات الافتراضية.
رفعت المزيد من العائلات دعوى قضائية ضد الشركة هذا العام. أ الحرف وقال المتحدث باسمهم إنهم يهتمون بشدة بسلامة المستخدم و “تشجيع المشرعين على صياغة القوانين التي تعزز سلامة المستخدم بشكل مناسب مع السماح أيضًا بمساحة كافية للابتكار والتعبير الحرة.”
في أغسطس / آب ، رفع والدا في كاليفورنيا لآدم رين دعوى قضائية ضد Openai ، زاعمين أن Chatgpt قدمت معلومات في سن المراهقة حول أساليب الانتحار ، بما في ذلك الشخص الذي كان في سن المراهقة يقتل نفسه.
وقال أوبراي إنها تعزز الضمانات وخطط لإطلاق ضوابط الوالدين. كتب الرئيس التنفيذي لها ، سام ألتمان ، في مدونة سبتمبر أن الشركة تعتقد أن القاصرين بحاجة إلى “حماية كبيرة” وأن الشركة تعطي الأولوية لـ “الأمان قبل الخصوصية والحرية للمراهقين”. ورفضت الشركة التعليق على فواتير California AI chatbot.
إلى المشرعين في كاليفورنيا ، الساعة تدق.
“نحن نبذل قصارى جهدنا” ، قال باور خاهان. “حقيقة أننا رأينا بالفعل أطفال يفقدون حياتهم إلى الذكاء الاصطناعي تخبرني أننا لا نتحرك بسرعة كافية.”
