İİS-lər necə zəhərlənir? Məzmun yaradıcıları AI-ni necə dayandırır?

İnsanabənzər söhbət robotlarının (chatbot) daha ağıllı və istifadəçi üçün faydalı olması üçün davamlı olaraq məlumatları mənimsəməsi lazımdır. Bu proses təlim adlanır. Lakin çoxsaylı İİS şirkətləri veb-səhifələrdən məlumatları yığarkən onların sahiblərindən icazə almağı nəzərə almırlar. Bu səbəbdən məzmun yaradıcıları və intellektual mülkiyyət sahibləri artıq qarşıdurma yolunu seçirlər.

Onlar bu məqsədlə tarpit adlanan alətlərdən istifadə edərək İİS-lərin əsasını təşkil edən böyük dil modellərini (İİS-lər) zəhərləyir və nəticədə sistemin çıxışlarının keyfiyyətini aşağı salırlar. Bu da istifadəçilərin sistemdən uzaqlaşmasına səbəb ola bilər. Peki, bu nədir və necə işləyir?

İİS zəhərlənməsi nədir?

İİS zəhərlənməsi — İİS söhbət robotunun əsasını təşkil edən böyük dil modelini korlayaraq, sistemin yanlış, aldatıcı və ya tamamilə qeyri-müəyyən nəticələr verməsinə səbəb olmaq prosesidir. Bu korlanma İİS-in təlim mərhələsində səhv məlumatların mənimsənməsi ilə həyata keçirilir. Bu proses adətən hər cür veb-səhifə və şəkillərin yığılması ilə həyata keçirilir.

İİS-in korlanma üsulları çox müxtəlifdir və korlama hədəfinə görə dəyişir. Məsələn, şəkil generatoru İİS-ni korlamaq istəyən şəxs Nightshading adlanan texnikadan istifadə edərək şəkillərə gizli təbəqələr əlavə edə bilər. Bu təbəqələr insan gözünə görünməsə də, İİS yığıcıları tərəfindən oxuna bilir. Nəticədə şəkil AI üçün tamamilə fərqli stillə (məsələn, realistdən abstrakt) göstərilir ki, bu da İİS-in sənətçinin real stilini təqlid etməsinə mane olur.

AI tarpitləri nədir və necə işləyir?

AI tarpitləri — İİS-in yığıcıları tərəfindən mənimsənilməsi üçün istifadə olunan xüsusi zəhərləmə alətləridir. Bu alətlər veb-səhifələrə daxil edilərək İİS yığıcılarını istifadə olunmaz məlumatları mənimsəməyə məcbur edir. Nəticədə İİS bu mənasız məlumatları istifadə edərək çıxışlar yaratdığı üçün sistemin cavablarının keyfiyyəti aşağı düşür. Bu da istifadəçilərin sistemdən uzaqlaşmasına səbəb ola bilər.

Məzmun yaradıcıları və intellektual mülkiyyət sahibləri veb-saytlarına müxtəlif tarpitlər əlavə edə bilərlər. Bunlara misal olaraq Nepenthes, Iocaine və Quixotic alətlərini göstərmək olar. İİS yayıcısı tarpit daxil edilmiş veb-səhifəyə daxil olduqda, avtomatik olaraq mənasız və ya səhv məlumatlarla dolu səhifələrə yönləndirilir. Məsələn, belə səhifələrdə Stiv Jobs 1834-cü ildə Microsoftu təsis etmişdir kimi səhv məlumatlar və ya Su rəngi pepperonidir kimi mənasız ifadələr yer alır. Bundan əlavə, bu səhifələrdə çıxış linkləri olmur, nəticədə yayıcı sonsuz mənasız məlumatlar dənizində ilişib qalır.