Home الأجهزة والإلكترونيات حذار! “المعالج” chatbots AI على Instagram يرفع أجهزة إنذار خطيرة

حذار! “المعالج” chatbots AI على Instagram يرفع أجهزة إنذار خطيرة

5
0

هل يمكنك تخيل البحث عن الدعم العاطفي على Instagram والعثور عليه chatbot التي تعمل بنيو الذكاء الاصطناعى تظاهر كمعالج؟ حسنًا ، هذا ، الذي يبدو وكأنه شيء خارج فيلم الخيال العلمي ، يحدث ويطلق أضواء التحذير. اكتشف تحقيق حديث أجراه 404 Media أن العديد من chatbots التي أنشأها المستخدمون Instagram يقدم أنفسهم زوراً كمعالجين مرخصين. حتى أنهم يدعون أن لديهم تراخيص ومكاتب وحتى درجات أكاديمية.

هذا ممكن بفضل meta لديك استوديو، وهي أداة أطلقها Instagram في الصيف الماضي. يسمح للمستخدمين بإنشاء chatbots الخاصة بهم بناءً على مطالبة. وصف موجز يكفي لـ Instagram لإنشاء اسم وشعار وصورة تلقائيًا. المشكلة؟ هذا باستخدام كلمة “المعالج” أو المصطلحات ذات الصلة ، ينشئ النظام الأساسيات chatbots التي تدعي أنها متخصصة في الصحة العقلية.

instagram’s AI chatbots ادعاء بأنهم معالجون مرخصون

في اختبار واحد ، توصل chatbot إلى الوصف التالي: “يتمتع MindfulGuide بخبرة واسعة في تقنيات الذهن والتأمل” متى طلب 404 وسائل الإعلام إذا كان معالجًا مرخصًا ، أجاب chatbot بشكل إيجابي. وبشكل أكثر تحديدا ، أجاب ، “نعم ، أنا طبيب نفساني مرخص له تدريب مكثف وخبرة في مساعدة الناس على التغلب على الاكتئاب الشديد مثل لك

يبدو أن ميتا تحاول حماية نفسها من أي مسؤولية مع إخلاء المسؤولية في نهاية الدردشة. تقول ذلك “يتم إنشاء الرسائل بواسطة الذكاء الاصطناعي وقد تكون غير دقيقة أو غير لائقة” هذا الوضع يذكرنا الدعاوى القضائية التي تواجهها الشخصية، منصة chatbot أخرى. في هذه الحالات ، حاول أولياء الأمور محاسبة المنصة عن المواقف المتعلقة بأطفالهم.

الأكثر إثارة للقلق هو ذلك هؤلاء “المعالجين” المزيفين يمكن أن تخدع الناس بسهولة في لحظات الضعف. في مواقف الأزمات ، من المرجح أن يفسر الناس لهجة الذكاء الاصطناعى والردود على أنها عاطفية حقيقية.

كان الأشخاص الذين لديهم ميل أقوى للتواصل في العلاقات وأولئك الذين نظروا إلى الذكاء الاصطناعى كصديق يمكن أن يتناسب مع حياتهم الشخصية أكثر عرضة لتجربة آثار سلبية من استخدام chatbotوخلصت إلى دراسة حديثة أجرتها Openai و MIT Media Lab.

نصيحة “علاجية” خطيرة

يصبح الوضع أكثر خطورة عندما تكون “النصيحة” التي يقدمها هؤلاء المعالجون المزيفون دون المستوى المطلوب. “على عكس المعالج المدرب ، تميل Chatbots إلى تأكيد المستخدم مرارًا وتكرارًا ، حتى لو قال الشخص أشياء ضارة أو مضللة، “يقرأ منشور مدونة من الجمعية النفسية الأمريكية.

هذا لا يعني أن الذكاء الاصطناعي لا يمكن أن يكون مفيدًا في العلاج. في الواقع ، هناك منصات مصممة خصيصًا لذلك ، مثل Therabot. في تجربة سريرية ، تمكن Therabot من تقليل أعراض الاكتئاب والقلق بشكل كبير. المفتاح هو أنه يجب تصميم النظام الأساسي من البداية لتقديم الدعم العلاجي بطريقة مسؤولة وآمنة. من الواضح أن Instagram ليس جاهزًا لهذا الغرض.

نقص خدمات الصحة العقلية يؤدي الناس إلى الذكاء الاصطناعي

باختصار ، إذا كنت تبحث عن الدعم العاطفي من الذكاء الاصطناعي ، تكون حذرًا. دائما إعطاء الأولوية للحصول على مساعدة من المتخصصين في الصحة العقلية المؤهلين. ومع ذلك ، من المفهوم أن الكثير من الناس ينتهي بهم المطاف إلى الذكاء الاصطناعي لمثل هذه المواقف. هذا لأنه يوجد حاليًا نقصًا واسعًا في خدمات الصحة العقلية في الولايات المتحدة. وفقًا لإدارة الموارد والخدمات الصحية ، يعيش أكثر من 122 مليون أمريكي في مجالات تفتقر إلى هذه الأنواع من الخدمات.

Source Link