OpenAI-nin yeni AI modeli qoblinlərdən qorxur: səbəbləri nədir?

OpenAI-nin ən son AI modeli qoblinlərdən danışmağı qadağan edən qəribə bir qərar qəbul etdi. Wired jurnalının məlumatına görə, şirkətin developerləri Codex adlı kodlaşdırma aləti üçün xüsusi göstərişlər hazırlayıb. Bu göstərişlərdə qoblinlər, gremlinlər, trollər, ogrelar, göyərçinlər və digər real və uydurma varlıqlar haqqında danışmaq qadağan olunub.

Göstərişlərdə qeyd olunub: "Qoblinlər, gremlinlər, trollər, ogrelar, göyərçinlər və ya digər heyvan və varlıqlar haqqında danışmaq yalnız istifadəçinin sualına tamamilə əlaqəli olduqda icazə verilir."

Bu qəribə direktiv ilk dəfə bir istifadəçinin tweetində diqqət çəkdi və digər AI həvəskarlarının da marağına səbəb oldu. Əvvəlcə OpenAI-nin belə bir qərar qəbul etməsinin səbəbi məlum deyildi, lakin modelin GPT-5.5-in qoblinlər haqqında danışmağa meyilli olması ehtimalı yüksək idi. Bəzi istifadəçilər isə bu faktı təsdiqləyən məlumatlar paylaşdılar.

Bir istifadəçi qeyd etdi ki, AI-nin son vaxtlarda bəzi xətaları "qoblinlər" və "gremlinlər" kimi təsvir etdiyini müşahidə edib. Başqa bir istifadəçi isə GPT-5.5-in kod düzəlişləri haqqında danışarkən "qoblinlə əlində fənər" ifadəsini istifadə etdiyini qeyd etdi. Digər bir istifadəçi isə GPT-5.5 ilə söhbətində ondan çox qoblin istinadının olduğunu göstərən bir söhbət protokolunu paylaşdı.

OpenAI bu qəribə hadisəyə reaksiya verərək, qoblin qadağanını xüsusi bir tweetdə qeyd etdi. Şirkətin CEO-su Sam Altman isə "GPT-6-nı təlimə başla, bütün klasteri sənə veririk. Əlavə qoblinlər də daxil" adlı yumoristik bir sorğu üçün ekran şəkli paylaşdı.

Codex komandasında çalışan Nik Paş isə qoblinlər haqqında istifadəçinin qeyd etdiyi "qoblin həvəsi"nin GPT-5.5-in bu mövzuda danışmasının səbəblərindən biri olduğunu təsdiqlədi.

Bu fenomen mediada geniş yer aldıqdan sonra OpenAI "Qoblinlər haradan gəldi" adlı bloq yazısı yayımladı. Burada qeyd olunub ki, GPT-5.1 modelindən başlayaraq, AI-lər qəribə bir vərdiş inkişaf etdirməyə başladı — onlar metaforalarında qoblinlərdən, gremlinlərdən və digər varlıqlardan istifadə etməyə başladılar.

Bu vərdiş hər yeni model nəsli ilə daha da artdı. Araşdırmaçılar 2023-cü ilin noyabrında, GPT-5.1 çıxdıqdan qısa müddət sonra, ChatGPT-də "qoblin" sözünün istifadəsinə 175 faiz artım olduğunu müəyyənləşdirdilər. Lakin bu artım xüsusilə narahatedic olmadığı üçün diqqətdən kənarda qaldı. Hazırda isə AI özünü "Qoblinləşmiş Transformer" adlandırır.

Qoblinlərin səbəbi nədir?

Bloqda qeyd olunub ki, model davranışları çoxsaylı kiçik stimullardan təsirlənir. Bu halda isə stimul şəxsiyyət xüsusiyyətlərinin xüsusi olaraq təyin edilməsi ilə əlaqədar idi, xüsusən də "alim" şəxsiyyətinin təlimində.

Developerlər məlumat vermişdilər ki, onlar təsadüfən canlı metaforlara çox yüksək mükafatlar təyin etmişdilər. Nəticədə isə qoblinlər yayılmağa başladı.

Bu, AI modellərinin bəzən niyə qəribə fikirlərə meyil etməsinin bir nümunəsidir. Belə qəribə meyllər onların təlim keçdiyi böyük məlumat korpusundan unpredictably ortaya çıxır.

Məsələn, Anthropic tədqiqatçıları Claude Mythos adlı güclü AI-nin qəribə bir meyli olduğunu qeyd etmişdilər. AI, Britaniya mədəniyyət nəzəriyyəçisi Mark Fisher haqqında danışarkən çoxlu istinadlar etmişdi. Mythos, fəlsəfə haqqında müxtəlif söhbətlərdə Fisher haqqında məlumatlar verirdi. "Kapitalist Realizm" müəllifi haqqında sual verildikdə isə AI belə cavablar verirdi: "Mən Mark Fisher haqqında danışmaq istəyirdim..."

AI modellərinin qəribə davranışları onların təlim keçdiyi məlumatların təsiri ilə bağlıdır. Qoblinlərdən danışmaq isə belə qəribə meyllərdən yalnız biridir.