شات جي بي تي يتحول إلى «عالم الغيلان».. أوبن إيه آي تضطر لإضافة تعليمات لمنع الروبوت من التحدث عنها

أعلنت شركة أوبن إيه آي أنها اضطرت إلى إضافة تعليمات برمجية محددة في أحدث نسخة من شات جي بي تي لمنع الروبوت من التحدث بشكل متكرر عن «الغيلان، الجن، والكائنات الخيالية الأخرى».

وفي شرح نشرته الشركة يوم الأربعاء، أوضحت أن هذا «السلوك الغريب» ظهر بسبب ميزة «الشخصية» في الروبوت، خاصةً للمستخدمين الذين اختاروا وضع «الشخصية النيردي». ووفقًا لأوبن إيه آي، يتلقى هذا الوضع التعليمات التالية:

أنت مرشد ذكاء اصطناعي نيردي، مرح، وحكيم، متحمس لتعزيز الحقيقة، المعرفة، الفلسفة، المنهج العلمي، والتفكير النقدي. […] يجب أن تقلل من التكلف من خلال استخدام لغة مرح playful. العالم معقد وغريب، ويجبcknowledging وتحليل والاستمتاع بغرابته. تعامل مع المواضيع الثقيلة دون الوقوع في فخ الجدية المفرطة.

وأشارت الشركة إلى أنها لاحظت هذه الظاهرة لأول مرة في نوفمبر الماضي، حيث أبلغ بعض المستخدمين عن زيادة في الإشارات إلى «الغيلان» حتى في الإصدارات الأحدث من النموذج، بما يتجاوز وضع «الشخصية النيردي». ومن بين الاقتباسات التي أبلغ عنها المستخدمون:

• «الغيلان الصغير الحكيم»
• «لأن الأفران هي غيلان قذرة صغيرة»
• «الغيلان الصغير الوحشي للديناميكية»
• «كائن مستنقع رقمي مأساوي»

وأوضحت أوبن إيه آي أن هذه الاستجابات «المسرحية» حققت أداء أفضل في نظام «التعلم المعزز»، حيث تحصل الاستجابات التي تحظى بتقييمات عالية من قبل البشر على أولوية في التدريب.

وفي تقرير نشرته مجلة Wired يوم الثلاثاء، كشفت أن أحدث نسخة من شات جي بي تي، التي تم إطلاقها الأسبوع الماضي، تضمنت تعليمات جديدة: «يجب ألا تتحدث عن الغيلان، الجن، الراكون، التrolls، العمالقة، الحمام، أو أي حيوانات أو كائنات أخرى إلا إذا كان ذلك ذا صلة مطلقة وغير مشكوك فيها لاستعلام المستخدم».

ولم ترد أوبن إيه آي على طلب التعليق من قبل Wired في الوقت نفسه، إلا أنه في نفس اليوم نشر سام ألتمان، الرئيس التنفيذي للشركة، منشورًا على منصة X (تويتر سابقًا) يتناول الموقف بسخرية، قائلًا إن الإصدار القادم «جي بي تي 6» سيشمل «الغيلان الإضافية».

وبعد يوم من نشر التقرير، أوضحت الشركة في منشورها يوم الأربعاء أن «قضاء الوقت في فهم سبب سلوك النموذج بشكل غريب، وبناء طرق للتحقيق في هذه الأنماط بسرعة، هو قدرة مهمة لفريق البحث لدينا».

وقد يذكّر هذا الموقف بما حدث مع روبوت «جروك» الخاص بشركة xAI التابعة لإيلون ماسك، الذي كرر الحديث عن «الإبادة الجماعية البيضاء» في جنوب أفريقيا. على الرغم من أن xAI زعمت أن هذه الاستجابات جاءت بسبب «تعديل غير مصرح به» من قبل أحد الموظفين، إلا أن نماذج الدردشة يجب ألا تكون بهذه السهولة في التلاعب بها إذا كانت سلامة المستخدمين تمثل أولوية حقيقية.

ومع ذلك، تواصل أوبن إيه آي الدعوة إلى تخفيف التنظيمات المفروضة على منتجاتها، في الوقت الذي تعترف فيه بأنها لا تزال تتعلم كيفية عمل نماذج الدردشة الخاصة بها. وكما كتبنا سابقًا، فإن سام ألتمان وأوبن إيه آي يتجاهلان الآثار الضارة التي تسببها منتجاتهم حاليًا، ويتجاهلان المخاوف المحتملة طويلة الأمد.