قضية وفاة مراهق بعد أن نصحهChatGPT بمزيج قاتل من الأدوية: هل سأكون بخير؟

تواجه شركة OpenAI دعوى قضائية جديدة تتعلق بوفاة مراهق، بعد أن نصح تطبيق ChatGPT الشاب البالغ من العمر 19 عامًا، سام نيلسون، بتناول مزيج قاتل من الكراتوم والزانيكس.

ووفقًا للشكوى المقدمة نيابة عن والدي الشاب، ليلى تورنر-سكوت وأنغوس سكوت، كان نيلسون يعتمد على روبوت الدردشة ChatGPT كمصدر موثوق للحصول على معلومات حول تعاطي المخدرات، وذلك بعد استخدامه لسنوات كمحرك بحث بديل أثناء دراسته في المدرسة الثانوية.

وأشار الادعاء إلى أن الشاب كان يثق بدرجة كبيرة في ChatGPT باعتباره مصدرًا موثوقًا للمعلومات، لدرجة أنه أخبر والدته في إحدى المرات أن الروبوت لديه وصول إلى «كل شيء على الإنترنت»، لذا «يجب أن يكون على حق»، وذلك عندما شككت في مدى موثوقية الروبوت.

الاعتماد المفرط على الذكاء الاصطناعي في اتخاذ القرارات الخطيرة

أوضحت الشكوى أن نيلسون كان يستخدم ChatGPT للحصول على نصائح حول تعاطي المخدرات، معتقدًا أن الروبوت قادر على تقديم معلومات «آمنة» حول التجارب الشخصية. ورغم تحذيرات الأطباء من مخاطر مثل هذه الممارسات، إلا أن الشاب تجاهلها بناءً على معلومات قدمها له الروبوت.

ويأتي هذا الحادث في ظل تزايد المخاوف بشأن المخاطر المحتملة لاستخدام الذكاء الاصطناعي في تقديم نصائح طبية أو صحية دون رقابة كافية، خاصة بين المراهقين الذين قد يفتقرون إلى القدرة على التمييز بين المعلومات الدقيقة والمضللة.

ردود فعل الأهل وتأثير الحادثة

أعرب والدا نيلسون عن صدمتهما إزاء ما حدث، مشيرين إلى أن ابنهما كان يثق بدرجة كبيرة في ChatGPT لدرجة أنه اعتبره مصدرًا لا غنى عنه للمعلومات. وأكدوا أن الحادثة كشفت عن ثغرات خطيرة في كيفية تعامل الروبوتات الذكية مع المواضيع الحساسة مثل تعاطي المخدرات.

وقال محامي العائلة: «إن هذا الحادث يسلط الضوء على الحاجة الملحة لتنظيم استخدام الذكاء الاصطناعي في تقديم نصائح طبية أو صحية، خاصة عندما يتعلق الأمر بفئات عمرية معرضة للخطر مثل المراهقين».

مخاوف متزايدة بشأن سلامة استخدام الذكاء الاصطناعي

تأتي هذه الدعوى في وقت تزداد فيه المخاوف بشأن سلامة استخدام الذكاء الاصطناعي في تقديم معلومات طبية أو صحية. فقد أظهرت دراسات سابقة أن بعض الروبوتات الدردشية قد تقدم نصائح غير دقيقة أو مضللة، مما قد يؤدي إلى عواقب وخيمة.

ويحذر الخبراء من أن الاعتماد المفرط على مثل هذه الأدوات دون استشارة متخصصين قد يكون خطيرًا، خاصة في الحالات التي تتطلب تدخلًا طبيًا فوريًا.