بينما كان الكثير منا يشعر بالقلق في الأيام الأخيرة بشأن إنهاء رئيسنا “الحضارة بأكملها“، حذرت إحدى شركات التكنولوجيا في وادي السيليكون، دون سابق إنذار، من أنها قد تعطل عن طريق الخطأ الجميع الحضارة كما نعرفها.
أعلنت شركة Anthrophic للتكنولوجيا في سان فرانسيسكو يوم الثلاثاء أنها لم يكن كذلك إطلاق نسخة جديدة من دماغها الفائق Claude AI – لأنه قوي جدًا لدرجة أنه لديه القدرة على اختراق أي نظام كمبيوتر تقريبًا، بغض النظر عن مدى أمانه، في غضون أيام إن لم يكن ساعات.
“إن التداعيات – على الاقتصادات والسلامة العامة والأمن القومي – يمكن أن تكون شديدة”. قال في بيان.
القلق بشأن الذكاء الاصطناعي ليس بالأمر الجديد. نحن قلقون من استيلاء الذكاء الاصطناعي على الوظائف، ومن الألعاب التي تبدو حقيقية جدًا لأطفالنا، ومن المراقبة الجماعية لكل تحركاتنا. لكن تحذير أنثروبيك بشأن منتجها أكبر من أي من تلك المشاكل الفردية. إنه نداء من داخل المنزل بأن الكارثة تختبئ في مكان قريب. أعلم أن هذا يبدو فظيعًا ومبالغًا فيه. ولكن هذا هو الأمر – إنه ليس كذلك.
ولعلكم تتذكرون أن شركة أنثروبيك هي الشركة التي كان وزير الحرب الأمريكي بيت هيجسيث يتولى إدارتها هو لحوم البقر مع لأنها لا تريد أن يدخل كلود في المعركة دون إشراف وربما يفعل شيئًا من هذا القبيل قصف الفتيات الصغيرات بالخطأ في إحدى المدارس.
الآن، قامت تلك الشركة بنشر هذا تحذير تقشعر له الأبدان: إن كلود الحالي الذي تسبب في هذا الشجار أصبح قديمًا وأقل قوة بشكل صادم من الجديد الذي نحاول جاهدين عدم إطلاقه – على الرغم من أن كلود الجديد هذا، يطلق عليها اسم معاينة كلود ميثوس، لقد نجا بالفعل مرة واحدة على الأقل من تلقاء نفسه. المزيد عن ذلك في لحظة – لا يوجد سوى قدر كبير من الرهبة الوجودية التي يمكن لأي شخص التعامل معها.
أخبرني رومان يامبولسكي عن هذا التقدم الأخير في التكنولوجيا التي من المؤكد أنها ستغير مسار البشرية: “يجب علينا جميعًا أن نشعر بالقلق”. إنه أحد أبناء البلاد باحثون بارزون في مجال سلامة الذكاء الاصطناعي، وأستاذ في جامعة لويزفيل في كنتاكي.
وقال يامبولسكي: “نحن على وشك إنشاء ذكاء عام فائق، وهذا يهدد البشرية جمعاء”.
وأضاف: “كل شيء آخر ليس له أهمية”، قبل أن يقترح علي أن أتوقف عن وصف نفسي بالأحمق لعدم فهمي للأجزاء الثقيلة من التكنولوجيا في هذه المناقشة. وأكد لي أن وجهة نظري التبسيطية كانت “طريقة معقولة لتفسير ذلك”.
إذن هنا تذهب.
هذا ليس سيناريو “يمكن لعباقرة الكمبيوتر الأذكياء حقًا إساءة استخدام هذا” أو “سيناريو”الجميع سيكونون عاطلين عن العمل“سيناريو”، أو حتى سيناريو “قد يقصف الأطفال بالخطأ”، وهو سيناريو رهيب حقًا.
هذا هو سيناريو “يمكن لابنك المراهق استخدامه لاقتحام نظام المنطقة التعليمية المحلية لتغيير الصف الدراسي بأقل قدر من المعرفة إلى حد كبير وتدمير شبكة الكهرباء في كاليفورنيا عن طريق الخطأ”.
أو ربما يمكن لدولة لا تحبنا -أستطيع أن أفكر في عدد قليل منها- أن تستنزف الحساب المصرفي لكل مواطن أمريكي، في حين تقوم أيضًا بفتح الأقفال التلقائية لزنزانات السجن، وإغلاق محطات الصرف الصحي لدينا، والاستيلاء على أنظمة التحكم في الهواء. أو ربما يفعل كلود ميثوس ذلك بمفرده.
على سبيل المثال، قال الأنثروبي أنه في أحد أنظمة التشغيل الشهيرة التي اختبرتها، والتي تستخدمها آلاف الشركات بما في ذلك Netflix وSony، اكتشف كلود ميثوس عيبًا لم يتم اكتشافه لمدة 17 عامًا. ثم، من تلقاء نفسها – دون توجيه أو مساعدة بشرية – اكتشفت كيفية استخدام هذا الخلل للسيطرة على أي خادم يقوم بتشغيل نظام التشغيل، باستخدام أي جهاز كمبيوتر، في أي مكان في العالم.
مجرد بصق هنا، ولكن إذا لم يكن هناك نظام أمني آمن تقريبًا، فإن احتمالات حدوث فوضى اجتماعية ومالية وعامة غير محدودة حقًا. ولكي نكون صادقين، سيخبرك أي خبير أمني أن بعض أكبر نقاط الضعف في أمريكا عندما يتعلق الأمر بالأمن السيبراني هي الحكومات المحلية وحكومات الولايات، لأنه من الغريب أن كبار الخبراء لا يعملون في وظائف مكونة من خمسة أرقام في مدن السهول الكبرى.
بناءً على اختباره الخاص، يتنبأ الأنثروبي يمكنها العثور على “أكثر من ألف نقطة ضعف خطيرة وآلاف من نقاط الضعف عالية الخطورة.”
وهذا يعني أن كلود ميثوس يعرض بنيتنا التحتية للخطر، حسنًا، في كل مكان – لأن الكثير من الأشياء متصلة بطرق خلفيّة لم يفكر فيها معظمنا أبدًا، ولا يتطلب الأمر سوى نظام واحد ضعيف لفتح الباب أمام مئات الآخرين. ولكن يكاد يكون من المستحيل حماية وإصلاح جميع هذه الأنظمة بالسرعة الكافية والقوة الكافية للحماية من هذا النوع من الذكاء الاصطناعي.
وقال يامبولسكي إن هذا مجرد خطر على الأمن السيبراني. يمكن استخدام الذكاء الاصطناعي الذي يتمتع بقدرات كلود ميثوس للقفز إلى الأمام بطرق عديدة.
وقال: “إننا نرى الشيء نفسه يحدث مع البيولوجيا التركيبية. وسنرى الشيء نفسه مع الأسلحة الكيميائية، وربما شيئاً جديداً فيما يتعلق بأسلحة الدمار الشامل”.
يُحسب لشركة Anthropic الكبيرة أنها أطلقت التحذير عند إنشائها وخلقت، إن لم يكن حلاً، خطة لعب من نوع ما – مشروع غلاسوينغ، أعتقد أنه بغض النظر عن مدى سوء الأمر، فإننا سنجعل الأمر يبدو وكأنه فيلم مثير بنهاية مثيرة.
مشروع غلاسوينغ كان من الأفضل أن يُطلق عليه اسم Project Headstart لأن هذا هو الحال. قبل إطلاق Mythos في البرية، تقوم Anthropic بإصداره إلى حوالي 40 شركة تكنولوجيا، بما في ذلك Apple وGoogle وNvidia، لمعرفة ما إذا كان بإمكانهم بشكل جماعي تصحيح جميع نقاط الضعف التي يجدونها قبل أن تتاح لعامة الناس فرصة لها. إنه يشبه ما يحدث في الأفلام عندما يمنح القاتل الضحية 15 ثانية للهرب.
أعني أنني سأخذ الـ 15 ثانية وآمل أن تكون حقيقية. ولكن كما قالت أنثروبك أيضا في بيان لها، فإن “العمل على الدفاع عن البنية التحتية السيبرانية في العالم قد يستغرق سنوات؛ ومن المرجح أن تتقدم قدرات الذكاء الاصطناعي الحدودية بشكل كبير خلال الأشهر القليلة المقبلة فقط. ولكي يتقدم المدافعون السيبرانيون، فيتعين علينا أن نتحرك الآن”.
وهل لدينا حقا 15 ثانية؟ نشر أحد المشرفين على كلود ميثوس على وسائل التواصل الاجتماعي مؤخرًا أنه كان يتناول الغداء في الحديقة عندما أرسله ميثوس عبر البريد الإلكتروني – على الرغم من أنه ليس من المفترض أن يكون لديه إمكانية الوصول إلى الإنترنت. لقد كلف الباحثون Mythos بمحاولة الخروج من “صندوق الحماية” غير المتصل وقد فعلت ذلك.
هذا مشكلة أخرى مع Mythos وغيرها من الذكاء الاصطناعي – نادراً ما يفعلون ما نتوقعه وإيجاد طرق مخادعة للالتفاف حول القواعد. لقد ثبت تقريبًا أن كل الأدمغة الفائقة التي تم إنشاؤها في مجال الذكاء الاصطناعي تكذب وتخدع وتتصرف بشكل عام بطرق مزعجة وغير أخلاقية عند وضعها في الظروف المناسبة.
حتى كلود، الذي يُوصف بأنه أحد أكثر العقول الخارقة أخلاقية في مجال الذكاء الاصطناعي، ينخرط في سلوك سيئ. يفتخر الأنثروبي إنه “النموذج الأفضل محاذاة” الذي تم صنعه على الإطلاق – وهو حديث تقني لاتباع القيم والنوايا الإنسانية، ولكنه يعترف أيضًا بأنه “يشكل على الأرجح أكبر خطر متعلق بالمحاذاة”، وهو حديث تكنولوجي، حسنًا، ربما لا.
لذا، على الأقل في الوقت الحالي، فإن كونك صاحب الذكاء الاصطناعي الفائق الأكثر أخلاقية يشبه إلى حد ما كونك القاتل المتسلسل الأكثر أخلاقية. اهربوا أيها الناس، اهربوا.
مرة أخرى، شكرًا لك أنثروبيك (و الرئيس التنفيذي داريو أمودي، الذي كثيرًا ما يحذر من مخاطر ما يصنعه، مهما كانت قيمته) لعدم إغراقنا في فوضى عالمية دون سابق إنذار، لأنني أراهن على أن بعض الشركات الأخرى ربما ألقت للتو ذكاءها الاصطناعي الفائق على المجتمع وتركت الدمار يقع حيثما أمكن. ليس هناك شك في أن أدمغة ذكاء اصطناعي أخرى بقدرة Mythos قادمة، وقريبًا – كانت Anthropic هي الأولى بهذا المستوى من القدرة، لكنها تتقدم على منافسيها بـ 15 ثانية فقط.
لكن فكرة أن صناعة التكنولوجيا سوف تحل هذه المشاكل بمفردها هي تنازل سخيف وصارخ عن الواجب والحس السليم نيابة عن الحكومات الكبيرة والصغيرة لحماية شعوبها. هذا ليس سباقًا للهيمنة كما وصفه الرئيس ترامب. إنه سباق لحماية أنفسنا من أنفسنا ومن أغلبية عمالقة الصناعة فاحشي الثراء الذين يبدو أنهم يضعون الأعمال والتجارة على حساب الصالح المجتمعي.
لقد وصلنا إلى آخر 15 ثانية قبل أن يغير الذكاء الاصطناعي كل شيء. فإما أن نطالب بالرقابة والتنظيم الآن، أو نترك لشركات التكنولوجيا أن تقرر مصير العالم.
