İnsan kimliyinin yerini alan AI agentlər: Təhlükə nə qədər real?

Son vaxtlarda texnologiya dünyasında ən çox müzakirə olunan mövzulardan biri də süni intellekt agentlərinin (AI agentlər) yayılmasıdır. Lakin bu agentlərin insan kimliyinə təsiri və təşkilatların bu dəyişikliyə hazır olub-olmamasından çox az söhbət gedir. Bu məsələni aydınlaşdırmaq üçün Anthropic şirkətinin son qərarına nəzər salaq.

Anthropic Mythos modelunun təhlükəsizlik riskləri səbəbindən ictimaiyyətə təqdim edilməməsinə qərar verdi. Mythos, əsas əməliyyat sistemlərində və brauzerlərdə 30 ildən çox gizli qalmış minlərlə proqram təhlükəsizlik zəifliyini aşkar edən ən güclü AI modelu idi. Şirkət, modelin ictimaiyyətə təqdim edilməsinin çox təhlükəli olduğunu bildirdi. Çünki Mythos-un zəiflikləri tapmaq və həll etmək qabiliyyəti, eyni zamanda hücumçular tərəfindən də istifadə edilə bilərdi. Bir AI agentin, yüzlərlə insan hackerin yerinə yetirdiyindən daha sürətli və davamlı şəkildə sistemləri yoxlamaq qabiliyyətinə malik olduğunu vurğulayan Anthropic, belə bir qərarın səbəbini açıqladı.

Bu qərar, AI sistemlərinin insan kimliyinə təsirini anlamaq üçün vacib bir göstərici hesab olunur. Şirkətlər AI agentləri müstəqil köməkçilər kimi istifadə etmək üçün yarış aparırlar — təqvimlərimizi idarə etməkdən kod yazmağa qədər müxtəlif vəzifələrdə onlara etibar edirik. Lakin eyni zamanda, bu agentlər insanlar qədər effektiv şəkildə rəqəmsal müdafiələri yoxlamaq qabiliyyətinə malikdir. Bu isə təşkilatların təhlükəsizlik sistemlərinin köhnəlməyə başladığını göstərir.

AI agentlər insan kimliyini necə dəyişir?

Günümüzdə istifadə olunan təhlükəsizlik sistemlərinin çoxu, istifadəçinin arxasında bir insan oturduğu fərziyyəsinə əsaslanır. Parollar, təhlükəsizlik sualları, biometrik skanlar və iki faktorlu autentifikasiya — bütün bunlar istifadəçinin insan olduğunu qəbul edən sistemlərdir. Lakin AI agentlər bu fərziyyəni iki istiqamətdə dağıdır:

• Legitim agentlər: Bu agentlər istifadəçilərin yerinə fəaliyyət göstərir və onların kimliyinə ehtiyac duyar. Məsələn, OpenAI-nin Operator vebsaytlarda istifadəçinin yerinə naviqasiya edir, Google-un Gemini isə ailənin gələcək səyahət planını təşkil edə bilir. Hətta Visa şirkəti AI agentlərin istifadəçilər üçün alış-veriş etməsinə imkan verən Intelligence Commerce Connect platformasını təqdim etdi.
• Məxrəc agentlər: AI agentlərin digər bir qrupu isə istifadəçilərin yerinə keçərək, zərərli fəaliyyət göstərə bilir. Bu agentlər insanları təqlid etmək qabiliyyətinə malikdir və təşkilatlara daxil olmaq üçün istifadəçilərin kimliyindən istifadə edə bilir. Məsələn, paylaşılan məlumatlar, işə qəbul prosesləri və tərəfdaşlıq platformaları vasitəsilə sistemlərə daxil ola bilirlər.

Təşkilatlar nə qədər hazırdır?

Çoxlu təşkilatlar hələ də kimliyi sadəcə bir giriş problemi kimi qəbul edir və bu məsələni daha güclü parollar və çox faktorlu autentifikasiya ilə həll etməyə çalışır. Lakin əsas məsələ artıq sistemlərə daxil olanın insan mı, yoxsa AI agenti mi olduğunu müəyyən etməkdir. Bu fərq tədricən itdikcə, zərərli fəaliyyətlərin nəticələri də real olmağa başlayır.

Məsələn, tədarük zəncirində AI agentin insan menecerini təqlid etməsi nəticəsində yanlış sifarişlər verilməsi mümkündür. Ya da uyğunluq qeydlərində sistemə daxil olanın AI agenti olduğunu müəyyən etmək çətinləşir. Bu isə təşkilatların risklərini artırır və təhlükəsizlik sistemlərinin köhnəlməsini sürətləndirir.

AI agentlərin yayılması ilə birlikdə təşkilatların təhlükəsizlik strategiyalarını yenidən nəzərdən keçirmələri vacibdir. Çünki köhnə sistemlər artıq AI agentlərin fəaliyyətlərini fərqləndirə bilmir.

Gələcəyə baxış

AI agentlərin insan kimliyini dəyişməsi ilə bağlı əsas məsələ, təşkilatların bu dəyişikliyə necə uyğunlaşacağıdır. Təhlükəsizlik sistemlərinin AI agentləri fərqləndirə bilməsi üçün yeni həll yollarına ehtiyac var. Bu isə sadəcə parol dəyişməkdən çox, təşkilatların təhlükəsizlik mədəniyyətini tamamilə yenidən formalaşdırmasını tələb edir.

Gələcəkdə AI agentlərin yayılması davam etdikcə, təşkilatların bu agentlərin fəaliyyətlərini nəzarət altında saxlamaq üçün yeni texnologiyalar və metodlar tətbiq etmələri vacib olacaq. Aksi halda, AI agentlərin səbəb ola biləcəyi təhlükələr artacaq və təşkilatlar bu dəyişikliyə hazır olmadıqları üçün ciddi problemlərlə qarşılaşacaqlar.