قد يلفت انتباهك أننا غارقون في الضجيج التكنولوجي. وكانت السيارات ذاتية القيادة، والروبوتات الشبيهة بالبشر، وروبوتات الدردشة التي تعمل بالذكاء الاصطناعي، كلها موضوعًا لتنبؤات ووعود مبالغ فيها إلى حد غريب في بعض الأحيان.
لذا، ينبغي لنا أن نكون شاكرين لرودني بروكس، وهو عالم التكنولوجيا الأسترالي المولد الذي جعل من إحدى مهامه في الحياة تقليص المبالغة في هذه التكنولوجيات وغيرها من التكنولوجيات التي يفترض أنها تغير العالم والتي يقدمها المروجون والمسوقون والمؤمنون الحقيقيون.
مثل لقد كتبت من قبل، بروكس لا يشبه اللاديت. بل على العكس تمامًا: فقد كان أحد مؤسسي شركة IRobot، الشركة المصنعة للمكنسة الكهربائية الروبوتية Roomba، على الرغم من تنحيه عن منصبه كرئيس قسم التكنولوجيا في الشركة في عام 2008 وترك مجلس إدارتها في عام 2011. وهو مؤسس مشارك وكبير مسؤولي التكنولوجيا في شركة RobustAI، التي تصنع الروبوتات للمصانع والمستودعات، و مدير سابق لعلوم الحاسب ومختبرات الذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا.
الحصول على أفكار أمر سهل. وتحويلها إلى واقع أمر صعب. بل إن تحويلها إلى نشر على نطاق واسع هو أمر أكثر صعوبة.
– رودني بروكس
في عام 2018، نشر بروكس منشورًا بعنوان تنبؤات مؤرخة حول مسار التقنيات الرئيسية ووعد بإعادة النظر فيها سنويًا لمدة 32 عامًا، عندما سيبلغ من العمر 95 عامًا. وركز على التقنيات التي كانت آنذاك – ولا تزال – محل نقاش عام، بما في ذلك السيارات ذاتية القيادة، والسفر البشري إلى الفضاء، وروبوتات الذكاء الاصطناعي، والروبوتات البشرية.
وكتب في هذا المقال التمهيدي: “إن الحصول على الأفكار أمر سهل”. “إن تحويلها إلى واقع أمر صعب. أما تحويلها إلى نطاق واسع فهو أصعب من ذلك.”
قسّم بروكس تنبؤاته إلى ثلاث فئات: NIML التي تعني “ليس في حياتي”، وNET التي تعني “ليس قبل” تاريخ محدد، و”من قبل بعض”. [specified] تاريخ.”
في الأول من كانون الثاني (يناير) نشر كتابه بطاقة أداء التوقعات السنوية الثامنة. ووجد أنه على مر السنين «صمدت توقعاتي بشكل جيد، على الرغم من أنني كنت متفائلًا بعض الشيء بشكل عام».
على سبيل المثال، تنبأ في عام 2018 بوجود “روبوت يمكنه تقديم المساعدة الجسدية لكبار السن في مهام متعددة [e.g., getting into and out of bed, washing, using the toilet, etc.]”لن يظهر قبل عام 2028؛ واعتبارًا من يوم رأس السنة الجديدة، يكتب، “لا يوجد حل للأغراض العامة في الأفق”.
وكتب آنذاك أن أول مستعمرة بشرية “دائمة” على المريخ لن تأتي قبل عام 2036، وهو ما يصفه الآن بأنه “متفائل للغاية”. وهو الآن يتصور هبوط الإنسان على المريخ في موعد لا يتجاوز عام 2040، والاستيطان في موعد لا يتجاوز عام 2050.
روبوت يبدو “ذكيًا ومنتبهًا ومخلصًا مثل الكلب” – ليس قبل عام 2048، كما توقع في عام 2018. “هذا أصعب بكثير مما يتخيله معظم الناس”، كما يكتب الآن. “يعتقد الكثيرون أننا وصلنا إلى هناك بالفعل، وأنا أقول إننا لم نصل إلى هناك على الإطلاق.” حكمه على الروبوت الذي لديه “أي فكرة حقيقية عن وجوده، أو وجود البشر بالطريقة التي يفهم بها طفل يبلغ من العمر 6 سنوات البشر” – “ليس في حياتي”.
يشير بروكس إلى أن إحدى الطرق التي يستخدمها مروجو التكنولوجيا المتقدمة لبراعة وعودهم المبالغ فيها هي إعادة التعريف بشكل دقيق. وكان هذا هو الحال مع “السيارات ذاتية القيادة”، كما يكتب. يشير المصطلح في الأصل إلى “أي نوع من السيارات التي يمكن أن تعمل بدون سائق على متنها، وبدون سائق عن بعد يوفر مدخلات التحكم … حيث لا يحتاج أي شخص إلى القيادة، ولكن ببساطة يتم توصيله بالسيارة إلى حيث يجب أن تأخذهم”.
تقول شركة Waymo، أكبر مزود لوسائل النقل ذاتية القيادة، على موقعها على الإنترنت إن سيارات الأجرة الروبوتية الخاصة بها هي “تجسيد للتكنولوجيا المستقلة بالكامل الذي يكون دائمًا هو المسيطر من الشاحنة إلى الوجهة. يمكن للركاب “الجلوس في المقعد الخلفي والاسترخاء والاستمتاع بالرحلة مع سائق Waymo الذي ينقلهم إلى وجهتهم بأمان.”
يتحدى بروكس هذا الادعاء. ويشير إلى أن إحدى الثغرة في نسيج الاستقلالية الكاملة أصبحت واضحة في 20 كانون الأول (ديسمبر)، عندما أدى انقطاع التيار الكهربائي الذي غطى سان فرانسيسكو إلى تقطع السبل بالكثير من أسطول سيارات الأجرة الآلية التابع لشركة Waymo في الشوارع. لقد أدى جهاز Waymos، الذي يمكنه قراءة إشارات المرور، إلى انسداد التقاطعات بسبب إظلام إشارات المرور.
اعترفت الشركة لاحقًا بمركباتها من حين لآخر “تتطلب التحقق من التأكيد” من البشر عندما يواجهون إشارات مرور معتمة أو مواقف مربكة أخرى. وقالت Waymo إن انقطاع التيار الكهربائي في 20 ديسمبر “أدى إلى ارتفاع مركّز في هذه الطلبات”، مما أدى إلى “تراكم أدى، في بعض الحالات، إلى تأخير الاستجابة مما ساهم في الازدحام في الشوارع المكتظة بالفعل”.
ومن المعروف أيضًا أن Waymo تدفع للبشر مقابل التعامل فعليًا مع المركبات التي تم تجميد حركتها بسبب – على سبيل المثال – فشل الراكب في إغلاق باب السيارة بالكامل عند الخروج. ويمكن استدعاؤهم عن طريق تطبيق الطرف الثالث Honk، والذي يستخدم بشكل أساسي من قبل مشغلي شاحنات السحب للعثور على العملاء الذين تقطعت بهم السبل.
يلاحظ بروكس: “يحتاج الجيل الحالي من Waymos إلى الكثير من المساعدة البشرية للعمل كما هو الحال، بدءًا من الأشخاص في مركز العمليات عن بعد للتدخل وتقديم المشورة الإنسانية عندما يحدث خطأ ما، إلى عمال Honk gig الذين يهرعون في جميع أنحاء المدينة”.
أخبرتني شركة Waymo أن ادعاءها بالتشغيل “المستقل بالكامل” يعتمد على حقيقة أن التكنولوجيا الموجودة على متن الطائرة تتحكم دائمًا في مركباتها. في المواقف المربكة، ستستدعي السيارة فريق “استجابة الأسطول” من Waymo، وتطلب منهم اختيار أي من المسارات الاختيارية العديدة هو الأفضل. “يتم التحكم في السيارة دائمًا من خلال سائق Waymo” – أي التكنولوجيا الموجودة على متن السيارة، كما أخبرني المتحدث باسم الشركة مارك لويس. “لا يمكن للإنسان تشغيل مركبة Waymo عن بعد.”
بصفته مصممًا رائدًا للروبوتات، يشكك بروكس بشكل خاص في افتتان صناعة التكنولوجيا بالروبوتات البشرية. يكتب من تجربته: في عام 1998 كان يصنع روبوتات بشرية مع طلاب الدراسات العليا في معهد ماساتشوستس للتكنولوجيا. وأكد في ذلك الوقت أن الناس سيكونون مرتاحين بشكل طبيعي مع “الروبوتات ذات الشكل البشري التي تتصرف مثل البشر؛ ولكن الروبوتات ذات الشكل البشري تتصرف مثل البشر”. الواجهة مثبتة في أدمغتنا“، وأن “البشر والروبوتات يمكنهم التعاون في المهام في أماكن قريبة بطرق لا يمكن تصورها حتى الآن إلا في الخيال العلمي.”
ومنذ ذلك الحين أصبح من الواضح أن الروبوتات ذات الأغراض العامة التي تبدو وتتصرف مثل البشر هي روبوتات خيالية. في الواقع، فهي خطيرة في العديد من السياقات. ومن بين المشاكل التي لم يتم حلها في تصميم الروبوت هو أنه لم يقم أحد بإنشاء روبوت يتمتع “ببراعة تشبه الإنسان”، كما يكتب. ولم تثبت شركات الروبوتات التي تروج لتصاميمها أن منتجاتها المقترحة تتمتع “ببراعة متعددة الأصابع حيث يستطيع البشر أن يمسكوا ويفعلوا الأشياء غير المرئية، وأن يمسكوا ويتلاعبوا في الوقت نفسه بأشياء صغيرة متعددة بيد واحدة”.
تميل الروبوتات ذات الساقين إلى السقوط و”تحتاج إلى تدخل بشري لتتمكن من النهوض مرة أخرى”، مثل السلاحف التي تسقط على ظهورها. ولأنها ثقيلة وغير مستقرة، فهي “غير آمنة حاليًا للبشر أن تكون قريبة منها أثناء المشي”.
(لم يذكر بروكس هذا الأمر، ولكن حتى في ستينيات القرن العشرين، أدرك مبتكرو فيلم “The Jetsons” أن الروبوتات المحلية لن تعتمد على الأرجل – خادمتهم الروبوتية روزي، أدوات حول أسرهم على عجلات، وهو التصور الذي جاء كطبيعة ثانية لرسامي الرسوم المتحركة منذ 60 عامًا ولكن يبدو أنه قد نسيه مهندسو اليوم.)
وكما يلاحظ بروكس، “حتى الأطفال الذين تتراوح أعمارهم بين 3 أو 4 سنوات يمكنهم التنقل حول المنازل المزدحمة دون الإضرار بها. … وبحلول سن الرابعة يمكنهم فتح الأبواب بمقابض أبواب وآليات لم يروها من قبل، وإغلاق تلك الأبواب خلفهم بأمان. ويمكنهم القيام بذلك عندما يدخلون منزلًا معينًا لأول مرة. ويمكنهم التجول صعودًا وهبوطًا والعثور على طريقهم.
ولكن مهلا، قد تقول: لقد رأيتهم يرقصون ويتقلبون، بل ويرتدون عن الجدران. نعم، لقد شاهدت مسرح الروبوت البشري. “
تمنحه تجربة بروكس في مجال الذكاء الاصطناعي رؤى مهمة حول أوجه القصور في مجموعة نماذج اللغات الكبيرة الحالية – وهي التكنولوجيا التي تقوم عليها برامج الدردشة المعاصرة – وما يمكنهم فعله وما لا يمكنهم فعله، ولماذا.
يكتب: “إن الآلية الأساسية لنماذج اللغات الكبيرة لا تجيب على الأسئلة بشكل مباشر”. “بدلاً من ذلك، فهي تعطي شيئًا يبدو وكأنه إجابة على السؤال. وهذا يختلف تمامًا عن قول شيء دقيق. ما تعلموه ليس حقائق عن العالم، بل بدلاً من ذلك توزيع احتمالي للكلمة التي من المرجح أن تأتي بعد ذلك في ضوء السؤال والكلمات التي تم إنتاجها حتى الآن كإجابة. وبالتالي فإن نتائج استخدامها، دون حبس، هي الكثير والكثير من التبسيطات التي تبدو وكأنها أشياء حقيقية، سواء كانت حقيقية أم لا”.
الحل لا يكمن في “تدريب” روبوتات LLM على المزيد والمزيد من البيانات، على أمل أن يكون لديهم في نهاية المطاف قواعد بيانات كبيرة بما يكفي لجعل افتراءاتهم غير ضرورية. يعتقد بروكس أن هذا هو النهج الخاطئ. الخيار الأفضل هو بناء LLMs لغرض معين لتلبية احتياجات محددة في مجالات محددة. الروبوتات المتخصصة في تشفير البرامج، على سبيل المثال، أو تصميم الأجهزة.
“نحن بحاجة إلى حواجز حماية حول حاملي شهادة الماجستير في القانون لجعلها مفيدة، وهذا هو المكان الذي سيكون فيه الكثير من العمل على مدى السنوات العشر المقبلة”، كما يكتب. “لا يمكن إطلاق سراحهم ببساطة في البرية بعد عودتهم مباشرة من التدريب…. المزيد من التدريب لا يجعل الأمور أفضل بالضرورة. الملاكمة تفعل ذلك.”
إن موضوع بروكس الشامل هو أننا نميل إلى المبالغة في تقدير ما يمكن أن تفعله التقنيات الجديدة والتقليل من الوقت الذي تستغرقه أي تقنية جديدة للارتقاء إلى مستوى الفائدة. إن أصعب المشكلات هي دائمًا آخر المشكلات التي يجب حلها؛ يميل الناس إلى الاعتقاد بأن التقنيات الجديدة سوف تستمر في التطور بالسرعة التي كانت عليها في مراحلها الأولى.
ولهذا السبب توقفت المسيرة نحو السيارات ذاتية القيادة الكاملة. يعد تجهيز السيارات بتحذيرات تغيير المسار أو التحكم في السرعة الذي يمكنه التكيف مع وجود سيارة أبطأ في الأمام أمرًا واحدًا؛ الطريق الى الحكم الذاتي المستوى 5 كما هو محدد من قبل جمعية مهندسي السيارات – حيث يمكن للمركبة أن تقود نفسها في جميع الظروف دون أن يُطلب من الإنسان أن يتولى القيادة – قد يستغرق الأمر عقودًا على الأقل. لا توجد مركبات من المستوى 5 تُستخدم بشكل عام اليوم.
إن تصديق ادعاءات مروجي التكنولوجيا بأن هذا أو ذاك من السكينة القصوى أصبح قاب قوسين أو أدنى هو لعبة القدح. كتب بروكس في منشوره الأصلي للتنبؤ: “يستغرق الأمر دائمًا وقتًا أطول مما تعتقد”. “إنه كذلك.”
