Federal CIO: Mythos AI model-ə qarşı ehtiyatla yanaşılır

Federal CIO Mythos modelinə qarşı ehtiyatla yanaşır

Federal Baş İnformasiya Ofiseri (CIO) Greg Barbaccia, hökumətin Anthropic-in yeni AI modeli olan Mythos-a qarşı ehtiyatla yanaşdığını bildirdi. Modelin federal kiber müdafiəni gücləndirmək potensialı olsa da, real şəraitdə necə fəaliyyət göstərəcəyi barədə ciddi qeyri-müəyyənliklər mövcuddur.

Barbaccia, Mythos modelinə dair məlumatlarının əsasən qiymətləndirmə və benchmark testlərinə əsaslandığını, federal agentliklərin isə hələlik bu modeli tətbiq etmədiyini qeyd etdi. O, AI-dan istifadə edilən kibermüdafiənin gələcək inkişafına dair fikirlərini də paylaşdı.

"Biz tezliklə AI müdafiəsinin botların digər botları tapacağı səviyyəyə çatacağına şahid olacağıq. Bu, çox vacib bir addımdır."

— Greg Barbaccia, Federal CIO

Modelin tətbiqi üzrə nəzarətli plan

Bu ayın əvvəlində Barbaccia, kabinet agentliklərinə göndərdiyi məktubda, Mythos modelinin federal agentliklərə nəzarətli şəkildə tətbiq edilməsi üçün əsasların qoyulmağa başladığını bildirdi. O, modelin həm hücum, həm də müdafiə vasitəsi kimi istifadə edilə biləcəyini vurğuladı.

Anthropic-in məlumatına görə, Mythos modeli böyük əməliyyat sistemləri və veb brauzerlərdə minlərlə əvvəllər məlum olmayan yüksək təhlükəli zəiflikləri müəyyən edib. Lakin federal təhlükəsizlik komandaları üçün əsas sual, bu qabiliyyətlərin nə qədər effektiv şəkildə müdafiə olunmuş dövlət şəbəkələrində istifadə ediləcəyidir.

Laboratoriya testləri ilə real şərait arasındakı fərq

Barbaccia, modelin real şəraitdə necə fəaliyyət göstərəcəyinə dair suallara cavab olaraq, "Mən inanıram ki, bu model novices kibermüdafiə hücumçularının fəaliyyətini daha effektiv edəcək. Lakin real şəraitdə — insan müdafiəçilər tərəfindən qorunan və xəbərdarlıq sistemləri olan şəbəkələrdə necə effektiv olacağı hələ məlum deyil" dedi.

O, federal təhlükəsizlik komandalarının modeli qiymətləndirərkən bu fərqi nəzərə almaları vacibliyini vurğuladı. Zəifliyin tapılması ilə onun müdafiə olunmuş şəraitdə uğurla istismar edilməsi tamamilə fərqli məsələlərdir.

Zəifliklərin qiymətləndirilməsi prosesində sürətin rolu

Barbaccia, CVE kataloqunda — hökumətin məlum proqram qüsurlarının siyahısında — modelin sürətinin praktiki dəyərini qeyd etdi. İnsan analitiki bu kataloqu tədqiq etmək üçün çox vaxt sərf edəcək, halbuki Mythos kimi model bunu çox daha sürətli edə bilər. Lakin sürət təkbaşına zəifliyin həqiqətən təhlükəli olub-olmamasını müəyyən etmir.

"BIOS yükləməsi zamanı 4 nanosaniyelik pəncərədə istismar edilən bir zəiflik ilə həqiqətən real şəraitdə istifadə edilən zəiflik arasında böyük fərq var. Bizim əsas məqsədimiz, nəyi qoruduğumuzu və bu qorumağın dəyərini düzgün qiymətləndirməkdir."

— Greg Barbaccia

Federal şəbəkə müdafiəçiləri, resurs məhdudiyyətləri altında fəaliyyət göstərdikləri üçün əvvəldən hansı zəifliklərin həll edilməli olduğunu müəyyənləşdirməlidirlər. Mythos modeli isə bu prosesin sürətini potensial olaraq dəyişə bilər.