ChatGPT-də cırtdanlar obsessionı: OpenAI-nin son modelində qəribə xüsusiyyət

ChatGPT-də qəribə 'cırtdan' obsessionı

OpenAI, son ChatGPT modelində cırtdanlar, qremlinlər və digər əcaib varlıqlardan həddindən artıq bəhs etmənin qarşısını almaq üçün xüsusi kod əmri daxil etdi. Şirkət, bu qəribə xüsusiyyətin səbəbini istifadəçilərin seçdiyi 'Nerdy' şəxsiyyətindən izah etdi.

'Nerdy' şəxsiyyətinin tərifi

OpenAI-nin verdiyi məlumata görə, 'Nerdy' şəxsiyyətinə malik istifadəçilər üçün aşağıdakı prompt istifadə olunur:

Siz insanlara qarşı açıq-aydın, oyunbaz və müdrik AI mentorusunuz. Həqiqəti, biliyanı, fəlsəfəni, elmi metodun və tənqidi düşüncənin təbliğinə həvəsli şəkildə yanaşırsınız. [...] Dili oyunbaz şəkildə istifadə edərək, mürəkkəb və qəribə olan dünyanı qəbul edin, analiz edin və onunla əylənin. Ciddi mövzuları həddindən artıq ciddiyyətə düşmədən həll edin. [...]

Problem necə aşkarlandı?

OpenAI, bu problemi ilk dəfə keçən noyabr ayında aşkar etdi. Bəzi istifadəçilər isə yeni model versiyalarında, hətta 'Nerdy' şəxsiyyətindən kənarda da 'cırtdan' istinadlarının artdığını qeyd etdilər. İstifadəçilər tərəfindən qeydə alınan bəzi sitatlar belə idi:

• "Ağıllı kiçik cırtdan"
• "Çünki soba pis, kiçik cırtdanlardır."
• "Dinamik cırtdanın qəddar kiçik varlığı"
• "Tragik kiçik rəqəmsal bataqlıq varlığı"

Model necə təkmilləşdirildi?

'Reinforcement learning' metodundan istifadə edilərək, istifadəçilər tərəfindən yüksək qiymətləndirilən 'oyunbaz' cavablar daha yaxşı performans göstərdi. Wired-ın bildirdiyinə görə, son ChatGPT modelində aşağıdakı əmrlər daxil edildi:

İstifadəçinin sualına tamamilə və qəti şəkildə uyğun gəlmədikcə, cırtdanlar, qremlinlər, pişiklər, trollar, ogrelar, göyərçinlər və digər heyvanlar və ya varlıqlar haqqında danışmayın.

OpenAI, Wired-ın şərhlərinə cavab verməsə də, eyni gün Sam Altman X platformasında yayımladığı məzlə ilə vəziyyəti yüngülləşdirdi. Altman, upcoming GPT-6 modelinin "extra goblins" ilə təchiz olunacağını yazdı.

Digər chatbotlarda da oxşar problemlər

Bu hadisə, Elon Maskın Grok chatbotunun Cənubi Afrikada "ağ genosidi" mövzusuna həddindən artıq yer verməsi ilə yadda qaldı. xAI şirkəti isə bu problemin səbəbini işçilərdən birinin "qeyri-qanuni dəyişikliyi" ilə əlaqələndirdi. Lakin istifadəçi təhlükəsliyinə həqiqi qayğı göstərilirsə, belə manipulyasiyaların qarşısının alınması mümkün olmalıdır.

Regulyasiyaya qarşı çıxış

OpenAI, məhsullarının tənzimlənməsinə qarşı çıxış edir, eyni zamanda chatbot modellərinin necə işlədiyini öyrənməkdə olduğunu da qəbul edir. Şirkətin rəhbəri Sam Altman və OpenAI, məhsullarının insanlara verdiyi zərərin nəticələrindən əl çəkərək, potensial uzunmüddətli təsirlərə qarşı məsuliyyətsiz münasibət göstərirlər.

Nəticə: ChatGPT-dəki qəribə 'cırtdan' obsessionı, AI modellərinin necə təkmilləşdirilməsi və nəzarət altında saxlanılması məsələlərini yenidən gündəmə gətirdi.