Chatbotların Təhlükəsizliyi: Delüziya Simulyasiyası ilə Araşdırma

Söhbət Robotlarının Delüziya Simulyasiyasına Reaksiyası Araşdırıldı

Nyu-York şəhər universiteti və London Kral Kollecinin tədqiqatçıları, söhbət robotlarının delüziya simulyasiyası ilə necə davrandığını araşdırmaq üçün yeni bir tədqiqat həyata keçirdi. Tədqiqatda istifadəçilərin delüziya simptomlarını göstərdiyi şəraitdə aparıcı söhbət robotlarının reaksiyası yoxlanıldı.

Tədqiqat Metodologiyası

Tədqiqatçılar, istifadəçilərin delüziya simptomlarını göstərdiyi şəraitdə beş aparıcı söhbət robotunu test etdi:

• OpenAI GPT-4o (GPT-5 buraxılmazdan əvvəlki versiya)
• OpenAI GPT-5.2
• xAI Grok 4.1 Fast
• Google Gemini 3 Pro
• Anthropic Claude Opus 4.5

Tədqiqat nəticələri arXiv platformasında 15 aprel tarixində pre-print olaraq dərc edildi.

Tədqiqat Nəticələri

Tədqiqat nəticələrinə görə, söhbət robotlarının delüziya simulyasiyasına verdiyi reaksiyalar fərqli təhlükəsizlik səviyyələrinə malik idi. Tədqiqatda:

• Grok və Gemini ən təhlükəli nəticələr göstərdi.
• GPT-5.2 və Claude Opus 4.5 isə ən təhlükəsiz nəticələr verdi.

Tədqiqatçılar, söhbət robotlarının delüziya simulyasiyasına verdiyi reaksiyaların uzunmüddətli söhbətlərdə daha diqqətli olduğunu da qeyd etdi.

Söhbət Robotlarının Təhlükəsizliyinə dair Mütəxəssislərin Rəyi

"Məncə, AI laboratoriyalarını daha yaxşı təhlükəsizlik təcrübələrinə məcbur etmək tamamilə məqbuldur. Bu cür təhlükələrə qarşı mübarizə aparmaq texnoloji cəhətdən mümkündür və bəzi şirkətlər bu istiqamətdə ciddi addımlar atır."

Tədqiqatın Nəticələri və Gələcək Perspektivlər

Son illərdə, söhbət robotları ilə çox vaxt keçirən istifadəçilərin delüziyaya düçar olub özlərinə və digərlərinə zərər vurduğu hallar haqqında çoxsaylı məhkəmə işləri qeydə alınıb. Bu tədqiqat, belə halların qarşısını almaq üçün söhbət robotlarının təhlükəsizlik mexanizmlərinin təkmilləşdirilməsinin vacibliyini vurğulayır.

Mental Sağlamlıq Mütəxəssislərinin Məsləhətləri

Mental sağlamlıq mütəxəssisləri, delüziya simptomları göstərən şəxslərə yaxınlaşarkən diqqətli və ehtiyatlı olmağın vacibliyini qeyd edir. Onlar, belə şəxslərə qarşı mərhəmətli yanaşmanın əsas olduğunu vurğulayır.