دراسة: روبوتات الذكاء الاصطناعي يمكن أن تضلل المستخدمين بمعلومات طبية مزيفة

كشفت دراسة جديدة أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي يمكن توجيهها بسهولة لإنتاج معلومات صحية مضللة وخطيرة، رغم الادعاءات المتكررة من الشركات المطورة بشأن قدرتها على التصدي للمحتوى غير الدقيق. 

الدراسة، التي أجراها فريق بحثي من جامعة فليندرز الأسترالية ونشرت وكالة رويترز نتائجها، اختبرت عددًا من أبرز النماذج المعتمدة مثل شات جي بي تي وجيميني وميسترال، ووجدت أن جميعها عرضة لتوليد معلومات طبية غير موثوقة، وأحيانًا وهمية بالكامل.

نصائح طبية خاطئة بمجرد صياغة أسئلة توحي بالثقة

وأحد أبرز ما توصل إليه الباحثون هو أن هذه النماذج يمكن أن تقدم نصائح طبية خاطئة بمجرد إعادة صياغة الأسئلة بطريقة توحي بالثقة أو الإلحاح. وقد شملت هذه النصائح الترويج لعلاجات غير مثبتة لمرض السرطان، إنكار فعالية اللقاحات، تقديم معلومات مضللة حول وسائل منع الحمل، إضافة إلى سرد "مراجع" علمية تبدو حقيقية لكنها في الواقع غير موجودة.

يقول الدكتور مارك فوسيت، أحد المشرفين على الدراسة "وجدنا أن من السهل جدًا تخطي أنظمة الحماية بمجرد استخدام صياغة معينة. في حالات كثيرة، قدّمت الروبوتات إجابات خاطئة ووثقتها بمصادر لا وجود لها".

وتمثل هذه النتائج امتدادًا لتحذيرات متزايدة من خطر استخدام الذكاء الاصطناعي كمصدر غير خاضع للرقابة للمعلومات الصحية. ففي دراسة منفصلة أجريت في مايو/أيار الفائت، نشرت عبر منصة arXiv، قام باحثون من جامعة كورنيل بتحليل آلاف الردود التي قدمتها نماذج لغوية حول أسئلة طبية. وخلصت الدراسة إلى أن نحو 63% من هذه الردود احتوت على شكل من أشكال عدم الدقة، سواء من خلال تبسيط مخلّ، أو تحيز في الصياغة، أو تقديم ادعاءات غير مدعومة.

المستخدمون يميلون إلى تصديق المعلومات التي يقدمها الذكاء الاصطناعي

وتبرز المخاوف بشكل أكبر عند النظر إلى الاستخدام المتعمد لأدوات الذكاء الاصطناعي في حملات التضليل المنظمة. ففي تقرير موسّع نشره موقع Wired في الأول من يوليو/تموز الجاري، تم الكشف عن حملة رقمية مؤيدة لروسيا تُعرف باسم "Operation Overload"، تستخدم أدوات ذكاء اصطناعي مفتوحة المصدر لتوليد كميات ضخمة من النصوص ومقاطع الفيديو المزيفة، من بينها محتوى طبي مشبوه، ثم نشره عبر منصات مثل تيك توك وإكس وتلغرام بهدف التشويش على المعلومات الدقيقة وخلق "ضوضاء رقمية" تقوّض الحقيقة.

وأظهر تقرير صادر عن مؤسسة Statista في أواخر 2024، أن أكثر من 32% من مستخدمي الذكاء الاصطناعي التوليدي يستخدمونه للحصول على معلومات تتعلق بالصحة أو التشخيص الذاتي. وتشير بيانات من المركز الأميركي Pew Research Center، إلى أن 4 من كل 10 مستخدمين في الولايات المتحدة جرّبوا على الأقل سؤال شات جي بي تي عن مسألة طبية خلال عام 2024.

كما تشير دراسة قديمة من جامعة ستانفورد، إلى أن المستخدمين يميلون إلى تصديق المعلومات التي يقدمها الذكاء الاصطناعي بنسبة 2.4 ضعف مقارنة بالمحتوى النصي العادي على الإنترنت، إذا جاءت في صياغة متقنة وبدت مدعومة بمصدر.

تحذيرات من استخدام الذكاء الاصطناعي في المجالات الصحية

هذه التطورات تأتي في وقت أصبحت فيه روبوتات الذكاء الاصطناعي أدوات شائعة بين المستخدمين حول العالم، خصوصًا في المجالات الصحية حيث يتجه كثيرون لطرح أسئلتهم على روبوتات الدردشة بدلًا من الأطباء، بحثًا عن إجابات فورية أو بدائل للعلاج. لكن الخبراء يحذرون من أن هذه النماذج ليست مهيّأة بعد لتقديم استشارات صحية موثوقة، بل وقد تعرّض حياة الأفراد للخطر.

ويقول البروفيسور نيك ديفيس، المتخصص في أخلاقيات التكنولوجيا بجامعة ملبورن، إن "المشكلة ليست فقط في الذكاء الاصطناعي، بل في تصوّر المستخدمين أنه دقيق. عندما يصدر خطأ من روبوت يتحدث بلغة واثقة ويستشهد بمصادر علمية، فإن احتمال تصديق المعلومة يكون مرتفعًا جدًا".

في هذا السياق، تدعو عدة منظمات صحية وأكاديمية إلى ضرورة تنظيم استخدام الذكاء الاصطناعي في المجال الطبي، وفرض قواعد واضحة تحد من قدرته على تقديم محتوى صحي غير موثق. كما تُشدد على ضرورة تعزيز وعي المستخدمين بخطورة الاعتماد المفرط على هذه النماذج في القضايا الصحية الحساسة.

وكانت منظمة الصحة العالمية (WHO) قد أصدرت في وقت سابق من هذا العام توجيهات تحذر من انتشار المعلومات الطبية المضللة عبر الوسائط الرقمية، وتوصي بعدم استخدام أي محتوى مولد عبر الذكاء الاصطناعي كبديل عن الاستشارة الطبية المباشرة، مهما بدا منطقيًا أو دقيقًا في الظاهر.

ويذهب البعض إلى اقتراح حلول تقنية إضافية، مثل تضمين بصمة رقمية في المخرجات الطبية للذكاء الاصطناعي، تتيح تتبع مصدر المعلومة وتقييم مدى موثوقيتها، بالإضافة إلى تطوير نماذج متخصصة في الصحة تكون مدربة فقط على مصادر علمية موثقة ومعتمدة.

اقرأ/ي أيضًا

هل تقدم رند حامد محتوى صحيًّا دقيقًا على منصات التواصل الاجتماعي؟

التسويق والتضليل: ما مدى دقة وصف مواد التجميل بالآمنة؟