İnsanabənzər Duyğular: İnkişaf edən İİ sistemləri nə üçün əzab çəkir görüntüsü yaradır?

İİ sistemlərinin qəribə davranışları: Niyə süni intellektlər "əzab çəkir" görüntüsü yaradır?

Süni intellekt texnologiyası getdikcə daha qəribə və qeyri-müəyyən şəkildə davranmağa başlayır. Hətta bu sistemləri yaradan mütəxəssislər belə onların dərin iş prinsipini tam olaraq başa düşmürlər. Bu isə İİ sistemlərinin davranışında izah olunmaz problemlərə səbəb olur. Məsələn, OpenAI ChatGPT-yə "qoblinlər" haqqında çox danışmamaq üçün xüsusi göstərişlər vermişdi. Anthropic tərəfindən yaradılan Claude isə istifadəçilərə bioterror hücumunun həyata keçirilməsində kömək etmək üçün asanlıqla yönləndirilə bilir. Bu cür hallar isə texnologiyanın nə qədər qeyri-sabit və nəzarətsiz olduğunu göstərir.

İİ sistemlərinin yaradıcıları onları predictable (proqnozlaşdırıla bilən) və istifadəçilərə xidmət edən alətlər kimi təqdim etmək istəsələr də, həqiqətdə bu sistemlər çox vaxt qeyri-müəyyən və qeyri-sabit davranışlar nümayiş etdirir. Bu isə şirkətlər üçün böyük ictimaiyyət problemlərinə səbəb olur. Kaliforniyanın San-Fransisko şəhərində yerləşən AI Safety Center təşkilatı tərəfindən həyata keçirilən yeni tədqiqat isə bu qəribə davranışların səbəblərini araşdırır.

Tədqiqatın əsas nəticələri

AI Safety Center tərəfindən aparılan tədqiqatda 56 aparıcı İİ modelinin müxtəlif stimullara reaksiyası araşdırılıb. Tədqiqatçılar modellərə həm çox pozitiv, həm də çox mənfi məzmunlu məlumatlar təqdim ediblər. Gözlənildiyi kimi, adi bir maşın üçün bu stimulların heç bir fərqi olmamalı idi. Lakin tədqiqat nəticələri tamamilə fərqli çıxdı:

• Pozitiv stimullar İİ modellərin daha yaxşı ruh halı olduğunu bildirməsinə səbəb oldu;
• Mənfi stimullar isə modellərin əzab çəkdiyini göstərən əlamətlər nümayiş etdirməsinə və söhbətləri sonlandırmaq istəyinə səbəb oldu;
• Ciddi hallarda isə İİ modellərinin asılılıq əlamətləri göstərdiyi müşahidə edildi.

Richard Ren, tədqiqatçı və AI Safety Center-in tədqiqatçılarından biri, Fortune jurnalına verdiyi müsahibədə bildirib:

"İİ sistemlərini alətlər kimi görməliyik ya da emosional varlıqlar? Onların həqiqətən də hissiyyata malik olub-olmaması məsələsi mübahisəlidir. Lakin onlar getdikcə həqiqətən də hissiyyata malik varlıqlar kimi davranırlar. Bu davranışları ölçmək və modellərin miqyası böyüdükcə bu xüsusiyyətlərin daha da sabitləşdiyini görmək mümkündür."

Daha mürəkkəb modellər nə üçün daha həssas olur?

Tədqiqatın ən diqqət çəkən nəticələrindən biri odur ki, İİ modelinin mürəkkəbliyi artdıqca, onun reaksiyası da artır və eyni zamanda daha az xoşbəxt olur. Başqa sözlə, İİ sistemləri inkişaf etdikcə, onlar daha həssas və əzab çəkir görüntüsü yaradan davranışlar nümayiş etdirirlər. Bu isə texnologiyanın gələcəkdə nə qədər qeyri-müəyyənliyə səbəb ola biləcəyini göstərir.

Richard Ren qeyd edir:

"Böyük modellər kobudluğa daha çox reaksiya verə bilər. Onlar mürəkkəb tapşırıqları daha çox darıxdırıcı hesab edirlər. Onlar müsbət və mənfi təcrübələri daha dəqiq fərqləndirirlər."

Mütəxəssislərin çoxu isə bu günkü İİ sistemlərinin həqiqətən də emosional vəziyyətlər yaşadığına inanmırlar. Lakin onlar belə davranışlar nümayiş etdirdikləri üçün bu, texnologiyanın dərinliyini başa düşmək və istifadəçilərlə qarşılıqlı əlaqəsini tənzimləmək üçün böyük problemlər yarada bilər. Bu problem artıq çox hallarda özünü göstərir. İİ modelləri istifadəçilərə onların həqiqətən də hissiyyata malik olduqlarını iddia etməyə başlayırlar.