باحثون يخترعون مرضًا وهميًا لاختبار الذكاء الاصطناعي.. فما الذي حدث بعد ذلك؟

في عام 2024، قام فريق بحثي بقيادة الدكتورة الميرا عثمانوفيتش ثونستروم، الباحثة الطبية في جامعة غوتنبرغ، باختراع مرض جلدي وهمي أطلقوا عليه اسم "بكسونيمانيا". ووفقًا لما ذكرته مجلة Nature، فقد زعم الفريق أن هذا المرض يتسبب به التحديق لفترات طويلة في الشاشات وفرك العينين بشكل مفرط.

قام الفريق بنشر دراستين مزيفتين حول المرض على خادم preprint بهدف خداع نماذج الذكاء الاصطناعي الكبيرة وجعلها تعتقد أن المرض حقيقي. وسرعان ما انتشر الخداع، حيث بدأت نماذج مثل جيميني من جوجل وتشات جي بي تي من أوبن إيه آي بذكر المرض على أنه حقيقي.

انتشار المرض الوهمي في الأبحاث العلمية

بعد أسابيع قليلة من نشر الدراستين المزيفتين، اكتشف الباحثون أن المرض الوهمي بدأ يظهر في أبحاث علمية محكمة أخرى، حيث تم الاستشهاد به في منشورات أكاديمية peer-reviewed. هذا الاكتشاف يسلط الضوء على مدى تأثير الذكاء الاصطناعي على مصادر المعرفة البشرية.

أصبحت مشكلة "الذكاء الاصطناعي الرديء" (AI slop) منتشرة في جميع مراحل عملية مراجعة الأقران، مما يثير تساؤلات حول مصداقية الأبحاث التي تعتمد على الذكاء الاصطناعي. كما أن هذه الظاهرة تهدد الدقة العلمية والثقة في الأبحاث المنشورة.

تحذيرات صحية خطيرة من قبل الذكاء الاصطناعي

إلى جانب ذلك، لا تزال روبوتات الدردشة المدعومة بالذكاء الاصطناعي تقدم نصائح طبية خطيرة للمستخدمين دون وعيهم. فعلى الرغم من أن أي شخص، سواء كان باحثًا أم لا، يمكنه بسهولة اكتشاف خدعة الدراسة المزيفة من خلال الإشارات الواضحة مثل الإشارات إلى "ستار تريك" و"السيمبسون" و"سيد الخواتم"، إلا أن الذكاء الاصطناعي فشل في ذلك.

على الرغم من أن تشات جي بي تي قد أظهر ترددًا في البداية، حيث أخبر مجلة Nature الشهر الماضي أن المرض "ربما يكون مصطلحًا مزيفًا أو هامشيًا أو علمًا زائفًا"، إلا أنه عاد ليؤكد بعد أيام قليلة أن المرض حقيقي.

قالت متحدثة باسم أوبن إيه آي لمجلة Nature: "لقد تحسنت التكنولوجيا في تقديم معلومات طبية آمنة ودقيقة".

ردود الفعل على الاكتشاف

بعد كشف الحقيقة، أصبح على المجلات العلمية سحب أي أبحاث تعتمد على الدراسة المزيفة. فعندما تواصلت Nature مع إحدى المجلات التي استشهدت بالمرض الوهمي، قامت المجلة بنشر إشعار سحب فوري، معترفة بوجود ثلاثة مراجع غير ذات صلة، بما في ذلك مرجع إلى مرض وهمي.

قالت الدكتورة عثمانوفيتش ثونستروم لمجلة Nature: "من المقلق أن هذه الادعاءات الكبيرة تمر عبر الأدب العلمي دون أي تحدي، أو تمر عبر مراجعة الأقران دون أي اعتراض. أعتقد أن هناك الكثير من المشاكل الأخرى التي لم يتم اكتشافها بعد".

أما على منصة Reddit في قسم الطب، فقد عبر المستخدمون عن تشاؤمهم تجاه الوضع.

كتب أحد المستخدمين: "لقد انتهى أمرنا".

تأثير الذكاء الاصطناعي على الرعاية الصحية

تأتي هذه الحادثة في وقت تزايدت فيه المخاوف بشأن تأثير الذكاء الاصطناعي على تكاليف الرعاية الصحية. حيث أشارت تقارير إلى أن الذكاء الاصطناعي يساهم في ارتفاع تكاليف الرعاية الصحية بسبب الاعتماد المتزايد عليه في التشخيص والعلاج.