الدكتور جويل بيرفيل ، وهو طبيب معروف لمئات الآلاف من أتباعه على وسائل التواصل الاجتماعي كما هو الحال مع “الأساطير الطبية، “بنى سمعة لفضح مطالبات الصحة الخاطئة عبر الإنترنت.
في وقت سابق من هذا العام ، قام بعض هؤلاء المتابعين بتنبيهه إلى مقطع فيديو على حساب آخر يضم رجلاً يشبهه تمامًا. كان الوجه له. لم يكن الصوت.
وقال بيرفيل لـ CBS News “لقد شعرت بالخوف في الغالب”. “بدا الأمر مثلي. لم يكن يبدو مثلي … لكنه كان يروج لمنتج لم أرده مطلقًا في الماضي ، بصوت لم يكن لي.”
لقد كان مثالاً على محتوى محتوى يضم مهنيين طبيين ملفقة ويصل إلى جمهور متزايد ، وفقًا لخبراء الأمن السيبراني. وقال إن الفيديو الذي يشبه Bervell ظهر على منصات متعددة – Tiktok و Instagram و Facebook و YouTube.
وجد إجراء تحقيق أخبار CBS على مدار الشهر الماضي عشرات الحسابات وأكثر من 100 مقطع فيديو عبر مواقع التواصل الاجتماعي ، حيث قدم الأطباء الوهميون ، وبعضهم يستخدم هويات الأطباء الحقيقيين ، نصيحة أو حاولوا بيع المنتجات ، المرتبطة في المقام الأول بالجمال والعافية وفقدان الوزن. تم العثور على معظمهم على Tiktok و Instagram ، وبعضها شاهد ملايين المرات.
كانت معظم مقاطع الفيديو التي تمت مراجعتها من قبل CBS News تحاول بيع المنتجات ، إما من خلال مواقع الويب المستقلة أو الأسواق المعروفة عبر الإنترنت. في كثير من الأحيان قدموا مطالبات جريئة. وصف مقطع فيديو أحد المنتجات “بنسبة 96 ٪ أكثر فعالية من Ozempic.”
شركة الأمن السيبراني ESET التحقيق مؤخرًا في هذا النوع من المحتوى. لقد رصدت أكثر من 20 حسابًا على Tiktok و Instagram باستخدام أطباء تم إنشاؤهم من الذكاء الاصطناعى لدفع المنتجات ، وفقًا لمارتينا لوبيز ، باحثة أمنية في ESET.
وقالت “سواء كان ذلك بسبب بعض مقاطع الفيديو التي تسير فيروسية أو حسابات تكتسب المزيد من المتابعين ، فإن هذا النوع من المحتوى يصل إلى جمهور أوسع بشكل متزايد”.
اتصلت CBS News Tiktok و Meta ، الشركة الأم لـ Instagram ، للحصول على وضوح سياساتهما. قامت كلتا الشركتين بإزالة مقاطع الفيديو التي تم وضع علامة عليها من قبل CBS News ، قائلة إنهما انتهكت سياسات المنصة. تواصلت شركة CBS News أيضًا مع YouTube ، والتي قالت عملية طلب الخصوصية “يسمح المستخدمون لطلب إزالة المحتوى الذي تم إنشاؤه من الذكاء الاصطناعى والذي يحاكيهم بشكل واقعي دون إذنهم. “
قالت YouTube إن مقاطع الفيديو التي توفرها CBS News لا تنتهك إرشادات المجتمع وستبقى على المنصة. “سياساتنا تحظر محتوى هذا يشكل خطرًا خطيرًا من الضرر الفظيع من خلال نشر معلومات مضللة طبية تتناقض مع إرشادات هيئة الصحة المحلية (LHA) حول الحالات والمواد الصحية المحددة “.
تيخوك يقول في يناير ومارس ، قامت بإزالة أكثر من 94 ٪ من المحتوى الذي ينتهك سياساته على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعى.
بعد الاتصال بـ CBS News ، قالت الشركة إنها أزالت مقاطع الفيديو التي تنتهكها معايير الإعلان وتقييد مقاطع الفيديو الأخرى التي تنتهكها سياسات الصحة والعافية، مما يجعلها في متناول أولئك الذين يبلغون من العمر 18 عامًا فما فوق.
وقال ميتا أيضًا إن الجهات الفاعلة السيئة تتطور باستمرار تكتيكاتهم لمحاولة التهرب من الإنفاذ.
قال توني أنسومب ، كبير المباريات الأمنية في إيسست ، إن المحتالين يستخدمون أدوات الذكاء الاصطناعى المتاحة بسهولة لتحسين جودة محتواها ، وعرض مقاطع الفيديو على الأجهزة الصغيرة يجعل من الصعب اكتشاف التناقضات البصرية.
قال ESET إن هناك بعض الأعلام الحمراء التي يمكن أن تساعد شخص ما في اكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعى ، بما في ذلك مواطن الخلل مثل الوصايا أو الحواف غير الواضحة أو تشوهات غريبة حول وجه الشخص. إلى جانب الصور المرئية ، يعد الصوت الذي يبدو آليًا أو يفتقر إلى العاطفة الإنسانية الطبيعية مؤشراً محتملاً على الذكاء الاصطناعي.
أخيرًا ، يجب أن يكون المشاهدون متشككين في الرسالة نفسها وأن يشكك في مطالبات مبالغ فيه مثل “علاجات المعجزة” أو “النتائج المضمونة” ، وهي تكتيكات شائعة في عمليات الاحتيال الرقمية ، على حد قول Anscombe.
“لا تثق في أي شيء ، تحقق من كل شيء” ، قال Anscombe. “لذلك إذا رأيت شيئًا ما وادعت أنه ، كما تعلمون ، هناك علاج معجزة ويأتي علاج المعجزة هذا من x ، اذهب وتحقق من x … والقيام بذلك بشكل مستقل. لا تتبع الروابط. فعليًا اذهب وتصفحها ، والبحث عنها والتحقق من نفسك.”
وقال بيرفيل إن مقاطع فيديو Deepfake التي تضم تشابهه قد تم إسقاطها بعد أن طلب من أتباعه المساعدة في الإبلاغ عنها.
الدكتور جويل بيرفيل عبر أخبار CBS 
وقال أيضًا إنه يهتم بمقاطع فيديو مثل هذه ستقوض ثقة الجمهور في الطب.
وقال “عندما يكون لدينا خيال هناك ، لدينا ما يُعتقد أنه خبراء في مجال يقولون شيئًا قد لا يكون صحيحًا”. “هذا يشوه الحقيقة ، ويجعل من الصعب على الجمهور تصديق أي شيء يخرج من العلم ، من طبيب ، من نظام الرعاية الصحية بشكل عام.”
