ABŞ-də milyonlarla insan həkimə getmək əvəzinə İİ-ya müraciət edir: Təhlükəli səhvlərdən xəbər verən tədqiqatlar

Tibbi məsləhətlərdə süni intellektin səhvləri: Təhlükəli nəticələr

Google-un süni intellektinin əvvəllər istifadəçilərə qayalar yeməyi və ya pizzaya yapışqan sürtməyi tövsiyə etməsi kimi səhvlərdən imtina etdiyi vaxtlarda belə, müasir söhbət robotları tibbi məsləhətlərdə çox vaxt yetərincə qüsurlu çıxış edir. Bu həftə JAMA Network Open jurnalında dərc olunan yeni tədqiqatda 21 müasir böyük dil modelinə (LLM) real həyat simptomları üzrə "həkim" rolunu oynamaq tapşırığı verilib.

Tədqiqat nəticələri çox ciddi şəkildə mənfi nəticələr göstərdi. Modelər, çox mənalı simptomlar təqdim edildikdə (bir neçə xəstəliyə aid ola bilən simptomlar), 80%-dən çox hallarda səhv diaqnoz qoydu. Hətta fiziki müayinə nəticələri və laboratoriya analizləri daxil olsa belə, modelər 40% hallarda səhv çıxış etdi. Tədqiqatçılar həmçinin qeyd ediblər ki, insan həkimlərdən fərqli olaraq, bu modelər çox vaxt erkən qərar qəbul edir və nəticədə bütün modellərdə zəif performans göstərir.

"Müasir böyük dil modelləri klinik səviyyədə istifadə üçün hazır deyil. Fərqli diaqnozlar klinik mülahizənin əsasını təşkil edir və süni intellekt indi bu 'həkim sənəti'ni təkrarlaya bilmir."

Mark Succi, Massaçusets Ümumi Xəstəxanasının innovasiya və kommersiyalaşdırma üzrə müavin müdiri

Real həyatda nə qədər təhlükəli ola bilər?

Tədqiqatlar göstərir ki, süni intellektə tam şəkildə məlumat verilmədikdə erkən qərar qəbulu çox təhlükəli nəticələr doğura bilər. Məsələn, istifadəçilərdən biri dərinin qızarması və ya nagan öskürək haqqında soruşduqda, robotlar yanlış və hətta təhlükəli məsləhətlər verə bilər. Bu isə həyati təhlükə yarada bilər.

ABŞ-də 66 milyon insan süni intellektdən tibbi məsləhətlər alır

West Health-Gallup Center on Healthcare in America tərəfindən keçirilən sorğuya görə, hər dörd amerikalıdan biri (təxminən 66 milyon insan) artıq ChatGPT və digər söhbət robotlarından tibbi məsləhətlər alır. Bu istifadəçilərin çoxu həm həkimə getməzdən əvvəl, həm də getdikdən sonra belə məsləhətlərə müraciət edir. Bəzi hallarda isə insanlar süni intellektdən aldığı məsləhətlərdən sonra həkimə getməkdən tamamilə imtina edir.

Sorğuda iştirak edənlərin 14%-i (9 milyondan çox insan) bildirib ki, süni intellektdən məsləhət alsaydılar, həkimə getməyəcəkdilər. 27% istifadəçi həkimə getməməsinin səbəbi olaraq ödənişin baha olması, 14% isə ödəniş edə bilməməsini göstərib. Bəzi iştirakçılar isə vaxtlarının olmamasını və ya həkimə getmək imkanlarının olmadığını qeyd ediblər.

"Süni intellekt artıq amerikalıların sağlamlıq məlumatları əldə etməsi, qərar qəbul etməsi və həkimlərlə əlaqə qurmasında köklü dəyişikliklər yaradır. Sağlamlıq sistemləri bu dəyişikliklərə uyğunlaşmalıdır."

Tim Laş, West Health Policy Center prezidenti

Nəticə: Süni intellekt tibbi məsləhətlərdə hələ yetərincə etibarlı deyil

Bu tədqiqatlar ABŞ-də sağlamlıq sistemindəki ciddi problemləri göstərir. Milionlarla insan süni intellektdən aldığı məsləhətlərə çox güvənir, halbuki bu məsləhətlər çox vaxt yanlış və təhlükəli olur. İnsan həkimlər isə bu məsələdə çox daha etibarlı mənbədir.