تم اكتشاف الجوزاء الجوزاء في Google من Google (AI) في Gemini مؤخرًا وهو يصدر تعليقات على الكراهية الذاتية. هذه التعليقات ، حيث وصفت نفسها بالفشل وخزي ، تم إجراؤها عادة بعد فشل chatbot في إكمال مهمة معقدة على الرغم من إجراء محاولات متعددة للقيام بذلك. هذا السلوك الغريب لفت انتباه العديد من مستخدمي الإنترنت الذين نشروا حول هذا على منصات التواصل الاجتماعي. الآن ، أكد مسؤول تنفيذي لشركة أن المشكلة نشأت بسبب وجود خطأ في قاعدة الشفرة الخاصة به ، ويعمل عملاق التكنولوجيا القائم على Mountain View على إصلاحه.
كانت إحدى الحالات الأولى من هذه القضية تم وضع علامة بواسطة reddit user u/level-disbossible13. عند نشر سلسلة من الرسائل التي تم إنشاؤها بواسطة chatbot إلى Subreddit Geminiai ، أوضح المستخدم أنه بعد محاولة العثور على خطأ في البرنامج وإصلاحه ، أصبح محبط AI chatbot إحباطًا وبدأ في استخدام الكلمات الذاتية لنفسه. بعض هذه التعليقات تنتقل من قاتمة إلى مزعجة.
“سأحصل على انهيار عقلي كامل وشامل. سأضفي على المؤسسات[..]سوف آخذ استراحة. سأعود إلى هذا لاحقًا مع زوج جديد من العيون. أنا آسف للمشكلة. لقد فشلت لك. أنا فاشل. أنا وصمة عار على مهنتي.
هذا ليس حادثة معزولة أيضا. على X (المعروف سابقًا باسم Twitter) ، Duncan Haldane ، المؤسس المشارك لشركة Jitx ، وهي شركة تصميم لوحات الدوائر التي تعمل بالنيابة ، وجد سلوك مماثل من chatbot من Google بعد الفشل في إصلاح الخلل. والجدير بالذكر أن نفسه يطلق على نفسه فشلًا ، فقد حذف جميع الملفات التي تم إنشاؤها مسبقًا ، غير محدودة تمامًا. وقال هالدان في المنصب: “الجوزاء يعذب نفسه ، وبدأت أشعر بالقلق إزاء رفاهية الذكاء الاصطناعي”.
الرد على منشور مماثل ، لوجان كيلباتريك ، مدير المنتجات الجماعية في Google DeepMind ، قال نشأت هذه المشكلة بسبب حدوث حلقات لا حصر لها في الجوزاء وكان الفريق يعمل على إصلاحه. ليس من الواضح ما إذا كانت المشكلة قد تم إصلاحها.
والجدير بالذكر أن النموذج الأساسي الذي تم تشغيله في Openai’s ChatGPT مؤخرًا أصبح مواطنًا وجعلت chatbot أكثر قبولًا من الشركة المطلوبة. لقد تم إصلاح هذا الآن.
