Google upptäckte AI-utvecklad nolladagssårbarhet innan angripare kunde utnyttja den

AI skapade nolladagssårbarhet – Google agerade i tid

Google Threat Intelligence Group (GTIG) har identifierat en nolladagssårbarhet som utvecklats med hjälp av artificiell intelligens. Företaget varnade den berörda leverantören innan en känd cyberbrottsgrupp kunde utnyttja sårbarheten för en storskalig attack. Informationen framgår av en rapport som publicerades på måndagen.

Upptäckten är särskilt anmärkningsvärd eftersom det är första gången GTIG har funnit konkreta bevis för att AI används för att skapa nolladagssårbarheter. Tidigare har sådana attacker främst utförts av mänskliga aktörer, men nu visar det sig att AI spelar en central roll i utvecklingen av skadlig kod.

AI:s roll i cyberattacker växer

John Hultquist, chefsanalytiker på GTIG, betonar att denna upptäckt endast är början på en större trend. "Vi har nu bevis för att AI används för att utveckla nolladagssårbarheter, och det här är bara toppen av isberget", säger han till CyberScoop.

GTIG har valt att inte avslöja vilken specifik sårbarhet som upptäcktes eller vilken cyberbrottsgrupp som var inblandad. Däremot framgår det att defekten fanns i ett Python-skript som möjliggjorde för angripare att kringgå tvåfaktorsautentisering för en webbaserad administrationsplattform. Sårbarheten har sedan dess åtgärdats.

AI lämnar tydliga spår i skadlig kod

Forskare har kunnat konstatera att AI har använts genom hela processen, även om det ännu inte är klart om AI också upptäckte sårbarheten från början. Den AI-modell som användes lämnade dock tydliga spår i koden, vilket skiljer sig från mänskligt utvecklad mjukvara. Bland dessa spår fanns:

• Dokumentationssträngar i Python som inte överensstämmer med mänsklig kodningsstil
• Överdrivet kommenterad kod
• En icke-existerande CVSS-poäng (Common Vulnerability Scoring System) som ändå hade angetts

Dessa artefakter gjorde det möjligt för Google att identifiera AI:s inblandning.

Fler AI-utvecklade sårbarheter förväntas

GTIG har länge varnat för att AI kommer att användas för att skapa alltmer sofistikerade cyberhot. Redan i slutet av 2024 upptäckte deras AI-agent Big Sleep en nolladagssårbarhet, vilket bekräftade att AI kan identifiera och utnyttja säkerhetsluckor.

"Det här är ett avgörande ögonblick. Vi har bevisat att AI kan skapa nolladagssårbarheter, och det kommer att bli vanligare", säger Hultquist.

Trots att upptäckten av denna AI-utvecklade sårbarhet är oroande, är det enligt Hultquist ännu mer bekymmersamt vad detta innebär för framtiden. "Spelet har redan börjat, och vi förväntar oss att kapaciteten kommer att växa snabbt. Det här kommer att leda till mer förödande attacker när AI:s förmågor utvecklas", varnar han.

Vad innebär detta för framtidens cybersäkerhet?

Upptäckten understryker behovet av att stärka cybersäkerhetsåtgärderna för att möta de nya hot som AI medför. Företag och organisationer måste vara proaktiva i sitt arbete med att identifiera och åtgärda sårbarheter, samtidigt som de utvecklar strategier för att hantera AI-drivna attacker.

GTIG:s rapport är en påminnelse om att AI inte bara är ett verktyg för att förbättra säkerheten, utan också ett kraftfullt redskap för cyberbrottslingar. Framtidens cybersäkerhetslandskap kommer att präglas av en ständig kapplöpning mellan angripare och försvarare, där AI spelar en central roll.