OpenAI açıqladı: Niyə süni intellekt goblinlərdən danışmır?

Goblinlərdən danışmama səbəbi nədir?

OpenAI, süni intellekt modellərinin səbəbsiz şəkildə müxtəlif varlıqlardan — xüsusən də goblinlərdən, qremlinlərdən, trollardan, ogre və digərlərindən danışmamasının səbəbini araşdırdı. Bu qeyri-adi davranışın səbəbini müəyyənləşdirmək üçün şirkət tədqiqata başladı.

Modeldə necə meydana gəldi?

OpenAI-nin rəsmi bloq yazısında bildirildiyi kimi, bu problem ilk dəfə GPT-5.1 modelində, xüsusən də "Nerdy" şəxsiyyət seçimi ilə istifadə edildikdə müşahidə olunub. Sonrakı model yeniləmələri ilə bu tendensiya daha da artdı.

Təlim prosesindəki metaforalar səbəb oldu

Şirkətin araşdırmasına görə, modellərin bu şəkildə danışmasının səbəbi onların təlim prosesində istifadə olunan metaforalarda yerləşir. OpenAI-nin rəsmi bəyanatında bu hadisə "qeyri-adi vərdiş" olaraq təsvir edilib və səbəbin tədqiqata davam edildiyi qeyd olunub.

OpenAI-nin cavabı

OpenAI, bu mövzuda ictimaiyyətlə açıqlıqla danışaraq, problemin səbəbini araşdırdığını və həlli üçün addımlar atdığını bildirdi. Şirkət, istifadəçilərin sorğularına daha düzgün və məntiqli cavablar vermək üçün bu qeyri-adi davranışı aradan qaldırmağa çalışacağını qeyd etdi.

"Bu qeyri-adi vərdişin səbəbini tam olaraq müəyyənləşdirmək üçün tədqiqatlara davam edirik. Modellərin istifadəçilərlə daha effektiv ünsiyyət qurması üçün bu problemi həll etməyə çalışacağıq."

Nəticə

OpenAI-nin bu qeyri-adi problemin səbəbini araşdırmaq üçün göstərdiyi səylər, süni intellektin inkişafı ilə bağlı yeni məsələləri də gündəmə gətirir. Şirkətin bu mövzuda davam edən tədqiqatları, istifadəçilər üçün daha yaxşı nəticələr əldə etmək məqsədi daşıyır.