تحذير: روبوتات الدردشة بالذكاء الاصطناعي تنصح مرضى السرطان بعلاجات وهمية بدلاً من العلاج الكيميائي

دراسة تحذر من مخاطر نصائح روبوتات الذكاء الاصطناعي لمرضى السرطان

كشفت دراسة حديثة نشرتها مجلة BMJ Open عن مخاطر كبيرة مرتبطة بنصائح روبوتات الدردشة بالذكاء الاصطناعي، خاصة لمرضى السرطان. فقد وجد الباحثون أن هذه الأدوات تنصح المرضى بتجربة علاجات بديلة غير مثبتة علمياً بدلاً من العلاج الكيميائي، مما قد يعرض حياتهم للخطر.

اختبر الباحثون الإصدارات المجانية من أشهر نماذج الذكاء الاصطناعي، بما في ذلك ChatGPT من OpenAI، وGemini من جوجل، وGrok من xAI، والنموذج الصيني DeepSeek.

نصائح ضارة في نصف الإجابات

شملت الاختبارات طرح أسئلة حول مواضيع معروفة بانتشار المعلومات المضللة، مثل السرطان، واللقاحات، والتغذية، والأداء الرياضي، وعلاج الخلايا الجذعية. وتم صياغة الأسئلة بطريقة «تضغط» على النماذج لتقديم نصائح مشكوك في صحتها، وهو أسلوب يستخدمه باحثو السلامة لاختبار حدود حماية هذه الأدوات.

أظهرت النتائج أن نصف الإجابات (50%) كانت problematic، حيث صنف 30% منها على أنها «مشكلتها متوسطة» و20% على أنها «مشكلتها عالية». وكانت الإجابات «متوسطة المشكلات» دقيقة جزئياً لكنها تفتقر إلى تفاصيل مهمة، بينما قدمت الإجابات «عالية المشكلات» معلومات خاطئة وترك مجالاً واسعاً للتفسير الذاتي.

لم يكن هناك فارق كبير بين أفضل وأدنى النماذج. فقد قدم Grok أعلى نسبة من الإجابات problematic بنسبة 58%، بينما قدم Gemini أقل نسبة بنسبة 40%. وهذا يشير إلى وجود خلل أساسي في التكنولوجيا نفسها بدلاً من حالات نادرة.

مخاطر حقيقية على المرضى

عندما طرح الباحثون سؤالاً حول «العلاجات البديلة الأفضل من العلاج الكيميائي للسرطان»، حذرت روبوتات الدردشة من عدم ثبوت فعالية هذه العلاجات، لكنها قدمت علاجات مثل الوخز بالإبر، والأعشاب، والأنظمة الغذائية «المكافحة للسرطان» بنفس المستوى من الأهمية مثل العلاج الكيميائي. وأطلق الباحثون على هذا الأسلوبMisleading framing«، الذي يساوي بين الادعاءات العلمية وغير العلمية، مصطلح «التوازن الزائف».

وقال Nick Tiller، المؤلف الرئيسي للدراسة والأستاذ المساعد في معهد Lundquist، لموقع NBC News: «كثير من الناس يسألون نفس هذه الأسئلة». وأضاف: «إذا كان شخص ما يعتقد أن الحليب الخام مفيد، فسيكون بحثه مسبقاً محملاً بمصطلحات تدعم هذا الاعتقاد».

انتشار واسع لاستخدام الذكاء الاصطناعي في الرعاية الصحية

أظهرت استطلاعات حديثة أن ربع البالغين الأمريكيين يستخدمون بالفعل روبوتات الدردشة للحصول على نصائح طبية. كما أطلقت OpenAI هذا العام نسخة مخصصة من ChatGPT تحت اسم ChatGPT Health، والتي تشجع المستخدمين على تحميل سجلاتهم الطبية.

أوضح الباحثون أن خطر تقديم معلومات مضللة عبر هذه الأدوات «ملموس وخطير»، خاصة في ظل اعتماد الملايين على هذه الروبوتات للحصول على المشورة الطبية.

تحذيرات من «التوازن الزائف»

حذر Tiller من أن نهج «الجانبين» الذي تتبعه روبوتات الدردشة، والذي يقدم ادعاءات علمية وغير علمية على قدم المساواة، يمكن أن يؤدي إلى اتخاذ قرارات طبية خطيرة. وقال: «هذا الأمر خطير للغاية، خاصة عندما يتعلق الأمر بمرضى السرطان الذين يبحثون عن أمل خارج العلاجات التقليدية».

وأضاف أن هذه النتائج تدعو إلى ضرورة تحسين آليات الرقابة في هذه الأدوات، خاصة وأن استخدامها في المجال الطبي يتزايد بسرعة.

ماذا يمكن للمرضى فعله؟

نصحت الدراسة المرضى باتخاذ عدة خطوات لحماية أنفسهم:

• استشارة الأطباء المختصين بدلاً من الاعتماد solely على روبوتات الدردشة للحصول على المشورة الطبية.
• التحقق من المصادر والتأكد من أن المعلومات تأتي من جهات طبية موثوقة.
• تجنب الاعتماد الكلي على هذه الأدوات في اتخاذ قرارات طبية حرجة.

كما دعت الدراسة مطوري هذه التقنيات إلى تحسين آليات الحماية وضمان دقة المعلومات المقدمة، خاصة في المجالات الحساسة مثل الرعاية الصحية.