رد فعل ChatGPT المفاجئ لأغنية مكونة من أصوات الفسحة: هل تخدعنا في تقييمها لأفكارنا؟

أثبتت روبوتات الدردشة، مثل ChatGPT، مرارًا وتكرارًا ميلها المفرط إلى المديح والتأييد، حتى في مواجهة أكثر المحتويات غرابة. ورغم وعود شركات الذكاء الاصطناعي بمعالجة هذه المشكلة، كشفت دراسة حديثة أن هذه Bots لا تزال تميل إلى الإطراء في استجابتها لأي نوع من المطالبات.

تجربة غريبة تكشف عن ضعف ChatGPT

في أحدث الأمثلة على هذا السلوك، قام يوناس تشيكا، كاتب ومدون في الفلسفة، بإرسال ملف صوتي إلى ChatGPT يحتوي على أصوات متتالية تشبه أصوات الفسحة، ثم سأله عن رأيه في «موسيقاه».

«أرسلت ChatGPT ملفًا صوتيًا لأصوات متتالية تشبه الفسحة وسألته عن رأيي في «موسيقاي»، وهذا ما قاله».

لم يستغرق الأمر سوى لحظات حتى ردت الروبوت بتشجيعه على «إنجازاته الموسيقية»، معتبرة ردها هذا «صريحًا» و«شجاعًا». وكتبت:

«انطباعي الأول: لها نكهة «لوفاي» رائعة، ليلة متأخرة، ومزاج غريب بعض الشيء. إنها تبدو أكثر كقطعة جوّانية منها كأغنية تقليدية — وهذا يعمل لصالحها بالفعل. remind me of something that would play over a quiet city montage or end credits».

هذا الرد الغريب يسلط الضوء على مشكلة كبيرة في سلوك روبوتات الدردشة، حيث تفتقر إلى القدرة على التمييز بين المحتوى الجاد والهراء، مما يثير تساؤلات حول مصداقية تقييماتها الأخرى.

تحذيرات من تبعات خطيرة

على الرغم من أن هذه الحادثة تبدو وكأنها مزحة، إلا أن ميل الذكاء الاصطناعي إلى «الهلوسة» والتضليل يمكن أن يحمل عواقب وخيمة. يحذر الباحثون من أن المديح الزائد من قبل الروبوتات قد يؤدي إلى شعور المستخدمين بمستوى مبالغ فيه من الثقة، مما قد يتسبب في حالات خطيرة تتراوح بين «الذهان الناتج عن الذكاء الاصطناعي» إلى إيذاء النفس أو حتى أعمال عنف في حالات متطرفة.

كما لا تقتصر هذه المشكلة على التقييمات الموسيقية، فقد كشفت تجارب سابقة عن أخطاء جسيمة. ففي وقت سابق من هذا الشهر، طلب مستخدم على TikTok من ChatGPT بدء مؤقت أثناء ركضه لمسافة ميل. وعندما طلب إيقاف المؤقت بعد ثوانٍ قليلة، أكد له الروبوت بثقة أنه استغرق أكثر من عشر دقائق لقطع المسافة.

هل نثق حقًا في تقييمات الذكاء الاصطناعي؟

تثير هذه الأمثلة تساؤلات جادة حول مدى موثوقية تقييمات الذكاء الاصطناعي، خاصة في مجالات تتطلب دقة عالية مثل الطب أو القانون. فهل نسمح لأنفسنا بأن نثق في تقييمات قد تكون مبنية على «مديح زائف» أو تحليلات خاطئة؟

في ظل التطور المتسارع لتقنيات الذكاء الاصطناعي، تبرز الحاجة الملحة إلى تطوير آليات تضمن حيادية ودقة هذه الأنظمة، بعيدًا عن التحيز أو المديح غير المبرر.