سكرامنتو — لم تنزعج جوليانا أرنولد عندما انضمت ابنتها المراهقة إلى Instagram لأول مرة.
كثير من الناس في عمرها كانوا يستخدمونها. وكانت ابنتها كوكو تتمتع بحياة اجتماعية وهوايات أخرى، مثل سباقات المضمار والجمباز، لموازنة وقتها على الإنترنت.
وقالت أرنولد المقيمة في لوس أنجلوس: “كانت مقاطع فيديو موسيقية وراقصة وبدت بريئة”، موضحة أنها ستراجع المحتوى الذي تشاهده كوكو.
لكن أرنولد قالت إن رجلاً استخدم إنستغرام لاستهداف ابنتها أثناء إقامتهما في نيويورك عام 2022، وأرسل رسائل خاصة وتصرف مثل “الأخ الأكبر” لكسب ثقتها. بعد أسبوعين من عيد ميلادها السابع عشر، التقت به كوكو بالقرب من منزلها توفي بعد تناول الفنتانيل بيركوسيت المزيف الذي قدمه.
قصص مماثلة هي اللعب على الصعيد الوطني بينما يتصارع الآباء مع كيفية حماية أطفالهم من عدد لا يحصى من التهديدات عبر الإنترنت.
نظرًا لأن الولاية موطن للعديد من عمالقة التكنولوجيا، قال الحاكم جافين نيوسوم إن كاليفورنيا تمهد الطريق لفرض قيود تشريعية على وسائل التواصل الاجتماعي والذكاء الاصطناعي. ولكن في حين يتفق المدافعون عن سلامة الأطفال على إحراز تقدم في عاصمة الولاية هذا العام، فإنهم يقولون إنه لا يزال هناك طريق طويل لنقطعه ويخططون للنضال من أجل المزيد من الحماية عندما يجتمع المشرعون مرة أخرى في يناير.
وقال جاي جايسيمها، المؤسس المشارك لتحالف الشفافية، وهي منظمة غير ربحية تبحث في المخاطر والفرص المرتبطة بالذكاء الاصطناعي: “أود أن أقول إن كاليفورنيا تقود هذا الأمر بالتأكيد”. “[But] أود أن أرى الرغبة في أن أكون أقوى قليلاً من حيث فهم التأثيرات واتخاذ الإجراءات بشكل أسرع. لا يمكننا أن ننتظر ثلاث أو أربع سنوات، فالضرر يحدث الآن”.
استطلاع أجراه مركز بيو للأبحاث العام الماضي وجدت تقريبا نصف من المراهقين الأمريكيين الذين تتراوح أعمارهم بين 13 و17 عامًا يقولون إنهم متصلون بالإنترنت “بشكل مستمر تقريبًا”. قال تسعة من كل 10 مراهقين إنهم يستخدمون YouTube، وقال ما يقرب من 6 من كل 10 إنهم يستخدمون TikTok وInstagram. أفاد خمسة وخمسون بالمائة أنهم يستخدمون Snapchat.
خلال الجلسة التشريعية الأخيرة، وقع نيوسوم على قائمة من التشريعات التي تهدف إلى جعل الإنترنت أكثر أمانًا، خاصة للقصر.
واحد قانون جديد يتطلب من موفري أنظمة التشغيل سؤال أصحاب الحسابات عن عمر المستخدم عند إعداد المعدات مثل أجهزة الكمبيوتر المحمولة أو الهواتف الذكية. يرسل موفرو النظام بعد ذلك إشارة إلى التطبيقات حول الفئة العمرية للمستخدم حتى يمكن تعديل المحتوى بما يتناسب مع عمره. تدبير آخر يتطلب منصات معينة لعرض ملصقات تحذيرية حول التأثيرات الضارة بالصحة العقلية التي يمكن أن تحدثها وسائل التواصل الاجتماعي على الأطفال.
قانون ثالث جديد يتطلب روبوتات الدردشة المصاحبة لتذكير المستخدمين بشكل دوري بأنهم لا يتفاعلون مع إنسان ووضع عمليات منع الانتحار لمساعدة أولئك الذين تظهر عليهم علامات الضيق. إن chatbot المصاحب هو برنامج كمبيوتر يحاكي المحادثات البشرية لتزويد المستخدمين بالترفيه أو الدعم العاطفي.
ومع ذلك، استخدم نيوسوم حق النقض ضد ما يمكن القول إنه مشروع القانون الأكثر عدوانية، قائلاً إنه فضفاض للغاية ويمكن أن يمنع الأطفال من الوصول إلى الذكاء الاصطناعي تمامًا.
كان من شأن مشروع قانون الجمعية رقم 1064 أن يحظر إتاحة برامج الدردشة المصاحبة للقاصرين إذا كانت برامج الدردشة قادرة “في المستقبل” على الترويج لسلوكيات معينة، مثل إيذاء النفس أو اضطراب الأكل أو أعمال العنف. وكان سيتطلب أيضًا إجراء عمليات تدقيق مستقلة للسلامة في برامج الذكاء الاصطناعي المخصصة للأطفال.
وقال ساشا هاوورث، المدير التنفيذي لمشروع مراقبة التكنولوجيا: “هذه قطعة سنعود إليها في العام المقبل”. “نحن نجري محادثات مع مكاتب الأعضاء ومكتب المحافظ حول إيصال هذا التشريع إلى مكان يمكنه التوقيع عليه فيه.”
منظمة أخرى تتخذ نهجا مختلفا.
أطلق جيم ستاير، الرئيس التنفيذي لشركة Common Sense Media، حملة من أجل الولاية مبادرة الاقتراع، الذي يطلق عليه قانون سلامة أطفال الذكاء الاصطناعي في كاليفورنيا، لنقل القضية مباشرة إلى الناخبين. ومن بين الأحكام الأخرى، فإنه سيحد بشكل صارم من وصول الشباب إلى برامج الدردشة المصاحبة ويتطلب إجراء عمليات تدقيق للسلامة لأي منتج آلي يستهدف الأطفال أو المراهقين. كما سيحظر على الشركات بيع البيانات الشخصية للمستخدمين الذين تقل أعمارهم عن 18 عامًا دون موافقة.
وأضاف ستاير أن AB 1064 حظي بدعم واسع النطاق وكان من المحتمل أن يتم التوقيع عليه لولا الضغوط الشديدة التي تمارسها صناعة التكنولوجيا والتهديدات بمغادرة الولاية.
قال ستاير: “في عالم السياسة، يتعين عليك أحيانًا المحاولة والمحاولة مرة أخرى”. “[But] لدينا الزخم، ولدينا الحقائق، ولدينا الجمهور، والأهم من ذلك كله، لدينا الأرضية الأخلاقية العالية، لذلك سنفوز”.
وقال إد هوارد، كبير المستشارين والمدافعين عن السياسات في معهد الدفاع عن الأطفال بجامعة سان دييغو، إن أحد أهدافه للعام المقبل هو إعطاء المزيد من القوة لقانونين حاليين.
الأول يتطلب من منصات التواصل الاجتماعي توفير آلية للقاصرين للإبلاغ عن الصور التي تعرضوا فيها للاعتداء الجنسي وإزالتها. والثاني يتطلب من المنصات إنشاء آلية إبلاغ مماثلة لضحايا التنمر عبر الإنترنت.
وقال هوارد إن المنصات الرئيسية، مثل TikTok وFacebook وInstagram، إما لم تمتثل أو جعلت عملية الإبلاغ “صعبة بشكل لا يصدق”.
وقال: “إن وجود مثل هذه الصور يطارد الناجين من هذه الجرائم”. “سيكون هناك مشروع قانون هذا العام لتنظيف اللغة [those laws] للتأكد من أنهم لن يتمكنوا من الإفلات من العقاب.”
يعتقد هوارد أن المشرعين من كلا الجانبين ملتزمون بإيجاد الحلول.
“لم يسبق لي أن رأيت هذا النوع من الغضب بين الحزبين الذي رأيته موجهًا نحو هؤلاء [tech] الشركات”، على حد تعبيره.
وقال ليشون فرانسيس، المدير الأول للصحة السلوكية لمنظمة الأطفال الآن، إن المنظمة لا تزال تستكشف الأولويات التشريعية المحتملة لعام 2026.
وأوضحت أنهم غالبًا ما يتخذون نهجًا مدروسًا لأن التشريعات الأقوى تميل إلى الارتباط بالدعاوى القضائية من صناعة التكنولوجيا. ميتا، وجوجل، وتيك توك، على سبيل المثال، هي كذلك تحدي قانون ولاية كاليفورنيا تم سنه العام الماضي والذي يقيد وصول الأطفال إلى خلاصات الوسائط الاجتماعية المخصصة.
قال فرانسيس: “ما زلنا نحاول إجراء المزيد من الأبحاث مع شبابنا حول الطريقة التي يريدون التفاعل بها مع الذكاء الاصطناعي وكيف يعتقدون أن هذا يجب أن يبدو”. “نعتقد أن هذا جزء مهم مفقود من المحادثة؛ لديك مجموعة من البالغين الذين تزيد أعمارهم عن 40 عامًا في الغرفة يتحدثون عن التكنولوجيا ويتجاهلون تمامًا كيف يريد الشباب استخدامها.”
وقال ديفيد إيفان هاريس، كبير مستشاري السياسات لمبادرة كاليفورنيا للتكنولوجيا والديمقراطية، إنه يراقب واشنطن بينما يستعد لجلسة الولاية.
وقال: “هناك أشخاص في الكونجرس وفي البيت الأبيض يحاولون أن يجعلوا من المستحيل على الدول” تنظيم الذكاء الاصطناعي. “إنهم يريدون انتزاع هذه السلطة من الولايات وعدم استبدالها بأي نوع من التنظيم الفيدرالي، بل استبدالها بلا شيء.”
البيت الأبيض لديه مشروع أمر تنفيذي معلق من شأنه أن يستبق قوانين الولاية بشأن الذكاء الاصطناعي من خلال الدعاوى القضائية وحجب الأموال الفيدرالية، حسبما ذكرت رويترز السبت.
وعندما يتحدث المؤيدون في مقر الولاية العام المقبل، سيكون أرنولد من بينهم. منذ وفاة ابنتها قبل ثلاث سنوات، شاركت في تأسيس Parents Rise – وهي مجموعة مناصرة شعبية – وتعمل على رفع مستوى الوعي حول المخاطر التي يواجهها الشباب عبر الإنترنت.
حتى قبل أن يتم استهداف كوكو من قبل حيوان مفترس، قال أرنولد إن التكنولوجيا أثرت بالفعل على حياتهم. أصبحت ابنتها، التي كانت مفعمة بالحيوية، مدمنة على وسائل التواصل الاجتماعي، وانسحبت من الأنشطة التي كانت تحبها. أخذ أرنولد كوكو للعلاج وقيد وقتها على الإنترنت، لكن ذلك أدى إلى معارك لا نهاية لها وخلق شقاقًا بينهما.
قال أرنولد: “تعتقد أن طفلك آمن في غرفة نومه، لكن هذه المنصات توفر بوابة إلى منزلك للحيوانات المفترسة والمحتوى الضار”. “يبدو الأمر كما لو أنهم يسيرون عبر الباب الأمامي للتو.”
