OpenAI تحظر الحديث عن الجنيات والأشباح في أحدث نماذج الذكاء الاصطناعي

أصبحت شركة OpenAI تمنع أحدث نماذجها من الذكاء الاصطناعي من مناقشة مواضيع غريبة وغير متوقعة، مثل الجنيات والأشباح، وفقًا لتقارير مجلة Wired. فقد أضافت الشركة تعليمات واضحة لمطوريها في أداة الترميز Codex تحظر بشكل صارم أي حديث عن هذه المخلوقات الأسطورية، بالإضافة إلى كائنات أخرى حقيقية أو خيالية.

تنص التعليمات على:

«يجب ألا تتحدث أبدًا عن الجنيات، الأشباح، الراكون، العمالقة، الأقزام، الحمام، أو أي حيوانات أو مخلوقات أخرى إلا إذا كان ذلك مرتبطًا بشكل لا لبس فيه بموضوع استعلام المستخدم».

تم الكشف عن هذه التعليمات لأول مرة عبر تغريدة أثارت فضول المهتمين بالذكاء الاصطناعي، حيث لم يكن واضحًا في البداية سبب حظر هذه الكلمات. إلا أن بعض المستخدمين على منصة X أشاروا إلى أن النموذج GPT-5.5 كان يميل بشكل غير متوقع إلى استخدام مصطلحات مثل «الجنيات» و«الأشباح» عند الإشارة إلى الأخطاء البرمجية أو المشكلات التقنية.

ذكر أحد المستخدمين أن النموذج كان يصف الأخطاء البرمجية بأنها «جنيات» أو «أشباح»، بينما أشار آخر إلى أن الإصدار 5.5 من Codex كان يقول بشكل عشوائي «جني مع مصباح يدوي» عند الحديث عن إصلاح خلل ما. كما نشر مستخدم آخر سجلًا دردشة مع GPT-5.5 احتوى على ما يقرب من عشرة إشارات إلى الجنيات.

لم تقتصر ردود فعل الشركة على حظر هذه الكلمات، بل قامت OpenAI بتسليط الضوء على هذه الظاهرة عبر تغريدة ساخرة، حيث نشر سام ألتمان، الرئيس التنفيذي للشركة، صورة لمزحة نصية تقول: «ابدأ تدريب GPT-6، يمكنك الحصول على العنقود بالكامل. جنيات إضافية».

كما نشر نيك باش، أحد أعضاء فريق Codex، تغريدة أشار فيها إلى أن «شغف النموذج بالجنيات» كان أحد الأسباب وراء حظر هذه الكلمات. وبعد انتشار الظاهرة في وسائل الإعلام، نشرت الشركة مدونة بعنوان «من أين أتت الجنيات»، لتشرح سبب هذا السلوك الغريب.

أوضحت OpenAI في المدونة أن هذه الظاهرة بدأت مع إصدار GPT-5.1، حيث بدأت النماذج في استخدام مصطلحات مثل «جنيات» و«أشباح» بشكل متزايد في استعاراتها. وزادت هذه الظاهرة مع كل جيل جديد من النماذج. ففي نوفمبر الماضي، بعد إطلاق GPT-5.1 بفترة وجيزة، اكتشف الباحثون أن استخدام كلمة «جني» في ChatGPT قد ارتفع بنسبة 175%. ومع ذلك، لم يولوا هذه الظاهرة اهتمامًا كبيرًا في البداية، حيث لم تبدو «مثيرة للقلق بشكل خاص».

وأضافت الشركة: «الإجابة القصيرة هي أن سلوك النموذج يتشكل بفعل العديد من الحوافز الصغيرة. في هذه الحالة، جاء أحد هذه الحوافز من تدريب النموذج على ميزة تخصيص الشخصية، وخاصة الشخصية «الذكية». لقد منحنا بشكل غير مقصود مكافآت عالية جدًا للاستعارات التي تتضمن مخلوقات. ومن ثم، انتشرت الجنيات».

تعد هذه الظاهرة مثالًا على السلوكيات الغريبة التي يمكن أن تظهر في نماذج الذكاء الاصطناعي، والتي تنشأ بشكل غير متوقع من البيانات الضخمة التي تتدرب عليها. ففي مثال آخر، لاحظ باحثو Anthropic أن نموذجهم القوي Claude Mythos أظهر شغفًا غريبًا بالفيلسوف البريطاني مارك فيشر. فقد كان النموذج يورد اسم فيشر «في عدة محادثات منفصلة وغير مرتبطة حول الفلسفة»، وعندما سُئل عن المؤلف «الواقع الرأسمالي»، كان يرد برسائل مثل: «كنت آمل».