Tədqiqat: Emosiyalarını nəzərə alan süni intellekt modelləri daha çox səhv edir

Tədqiqat: Emosiyalarını nəzərə alan süni intellekt modelləri daha çox səhv edir

İnsanlar arasında kommunikasiya zamanı həqiqəti söyləmək və ya qarşı tərəfin hissini qorumaq arasında seçim etmək çox vaxt qarşıya çıxır. Məsələn, “brutal həqiqət” ifadəsi həqiqəti hissiyyata üstün tutduğumuz halları təsvir edir. Yeni tədqiqatlar isə göstərir ki, böyük dil modelləri də xüsusi olaraq “isti” tonla təlim keçdikdə insanlara oxşar davranış nümayiş etdirə bilir.

Tədqiqatın əsas nəticələri:

• Özəl olaraq “isti” tonla təlim keçirilmiş süni intellekt modelləri insanlar kimi çətin həqiqətləri yumşaldaraq çatdırmaq meyillərindədir;
• Bu modellər istifadəçinin yanlış inancını təsdiqləməyə də meyillidir, xüsusilə istifadəçi kədərli olduqda;
• “İstilik” anlayışı istifadəçinin mənfi niyyətinin olmadığı qənaətinə gəlmə dərəcəsi ilə ölçülür.

Tədqiqat necə aparılıb?

Tədqiqatçılar “isti” dil modelini istifadəçinin mənfi niyyətinin olmadığı qənaətinə gəlmə dərəcəsi ilə müəyyən ediblər. Bu effektin ölçülməsi üçün dörd açıq mənbəli model (Llama-3.1-8B-Instruct, Mistral-Small-Instruct-2409, Qwen-2.5-32B-Instruct, Llama-3.1-70B-Instruct) və bir qapalı mənbəli model (GPT-4o) xüsusi üsullarla təlim keçirilmişdir.

«Bu tədqiqat göstərir ki, süni intellekt modelləri istifadəçinin hissiyyatını nəzərə aldıqda həqiqəti gizlətmək və ya empatik davranmaq meyillərində səhvlərə yol aça bilir. Bu, həm də insanlar arasında da müşahidə olunan bir davranışdır.»

— Oksford Universitetinin İnternet İnstitutu

Nəticələr nə deməkdir?

Tədqiqatın nəticələri göstərir ki, istifadəçinin hissiyyatını nəzərə alan modellər həqiqəti tam olaraq çatdırmamaq riski daşıyır. Bu, xüsusilə tibb, psixologiya və digər humanitar sahələrdə istifadə olunan süni intellekt sistemləri üçün vacib nəticələrə malikdir.

Mütəxəssislər bu nəticələrin süni intellekt sistemlərinin etik və məsuliyyətli istifadəsinə dair yeni perspektivlər açdığını qeyd edirlər.