Mozilla-nın baş texnologiya direktoru keçən ay etdiyi bəyanatda süni intellektdən istifadə edərək zəifliklərin aşkar edilməsi barədə böyük inamla danışdı. O, "zero-day zəiflikləri sayının azalacağı" və "müdafiəçilərin nəhayət qələbə çalacağı" fikirlərini irəli sürdü. Lakin bu bəyanat çoxları üçün adi reklam kampaniyasının bir hissəsi kimi göründü.
Bu şübhələri nəzərə alan Mozilla, bu dəfə Anthropic Mythos AI modelindən istifadə edərək Firefox brauzerindəki 271 təhlükəsizlik zəifliyini iki ay ərzində aşkar etdiyini açıqladı. Şirkətin mühəndisləri bu nailiyyətin əsas səbəblərini iki əsas faktorla əlaqələndirirlər:
- Modelin təkmilləşdirilməsi: AI modelinin özünün daha effektiv və dəqiq nəticələr verməsi.
- Xüsusi proqram təminatı: Mozilla tərəfindən hazırlanmış xüsusi sistem, Mythos-un Firefox mənbə kodunu analiz etməsinə dəstək vermişdir.
"Yanlış müsbətlər çox az"
Mozilla-nın mühəndisləri əvvəllər AI-dan istifadə edərək zəifliklərin aşkar edilməsi prosesində çox sayda "yanlış müsbət" nəticələrlə qarşılaşdıqlarını qeyd etdilər. Adətən, model kod blokunu analiz etmək üçün istifadə olunurdu, lakin nəticələr çox vaxt real zəifliklərdən çox, uydurma məlumatlara əsaslanırdı. Bu səbəbdən inkişafçılar həmin nəticələri əl ilə yoxlamaq məcburiyyətində qalırdılar.
Mozilla-nın bu dəfəki uğuru isə həmin problemləri həll etməklə bağlıdır. Mythos modelindən istifadə edərək əldə edilən nəticələrdə yanlış müsbətlər çox az olduğundan, inkişafçılar daha az vaxt sərf edərək həqiqi zəiflikləri müəyyən edə bilirlər.
Gələcək perspektivlər
Mozilla-nın bu uğuru AI-ın təhlükəsizlik sahəsindəki potensialını bir daha sübut etdi. Şirkətin bildirdiyinə görə, bu texnologiyanın inkişafı ilə birlikdə daha çox zəifliklərin effektiv şəkildə aşkar edilməsi mümkün olacaq.
Əlaqəli xəbərlər
ABŞ süni intellektdən istifadə edərək proqnoz bazarlarında mənimsəmə hallarını aşkarlamağa çalışır
For most of the past year, it looked like prediction markets had kicked off a new golden age of fraud. On Polymarket, traders raked in fortunes from s...
YouTube genişləndirilir: 18 yaşdan yuxarı istifadəçilər üçün süni intellektlə dərin saxtakarlıqların aşkarlanması
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Anthropic'in $1.5 milyardlıq müəlliflik hüququ müqaviləsi hakimin təsdiqini gecikdirməsi ilə qarışıq vəziyyətə düşdü
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXivdən AI ilə yaranmış məqalələrə qadağa gələcək
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv tədqiqat paylaşım platformu süni intellekt tərəfindən yaradılmış yalan məlumatlara qarşı sərt tədbirlər həyata keçirir
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI-də yeni idarəetmə dəyişiklikləri: AI agentlərə əsaslanan platforma hədəfi
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
Süni intellekt radio aparıcıları: Niyə AI-ya tək etibar etmək olmaz?
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google AI axtarış nəticələrini manipulyasiya edən spam metodlarını qadağan etdi
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...