Google afslører AI-drevet cyberangreb med ukendt sårbarhed

AI-baseret angreb afdækket af Google

Google har identificeret et sofistikeret cyberangreb, hvor hackere anvendte kunstig intelligens til at opdage og udnytte en ukendt sårbarhed i Googles software. Ifølge en rapport fra Googles forskere blev angrebet afværget, men det rejser alvorlige spørgsmål om AI’s rolle i fremtidens cybertrusler.

AI fandt ukendt sårbarhed

I rapporten, offentliggjort mandag, fremgår det, at angriberne sandsynligvis brugte en AI-model til at identificere og udnytte en zero-day-sårbarhed – en ukendt fejl i softwaren, som Googles udviklere ikke havde kendskab til. En sådan sårbarhed giver hackere mulighed for at angribe systemer, inden udviklerne kan lukke hullet.

Ifølge rapporten ville angriberne have kunnet omgå tofaktorautentificering på et populært open-source-værktøj til administration af web-systemer. For at udnytte sårbarheden krævede det dog, at hackerne allerede havde adgang til brugerens loginoplysninger. Alligevel understreger eksperterne, at evnen til at omgå tofaktorautentificering kunne have haft katastrofale konsekvenser.

"Den kriminelle aktør havde planlagt at udnytte sårbarheden i et massivt angreb, men vores proaktive opdagelse forhindrede det," står der i rapporten.

Første dokumenterede tilfælde af AI-drevet zero-day-angreb

Forskerne kalder dette det første kendte tilfælde, hvor hackere har brugt AI til at udvikle en zero-day-sårbarhed. John Hultquist, chefanalytiker hos Google Threat Intelligence Group, udtaler til The New York Times:

"Dette er blot begyndelsen. Vi tror, at problemet er langt større, end vi kan se lige nu. Dette er det første konkrete bevis på, hvad der kommer."

AI’s rolle i cyberkriminalitet vokser

Angrebet kommer på et tidspunkt, hvor bekymringen for AI’s indvirkning på cybersikkerhed vokser. For nylig lancerede AI-virksomheden Anthropic sin model Claude Mythos, som angiveligt kan finde zero-day-sårbarheder i alle større styresystemer og webbrowsere, når den bliver instrueret til det. Virksomheden har dog begrænset adgangen til modellen til udvalgte virksomheder og myndigheder på grund af de potentielt ødelæggende konsekvenser.

AI’s evne til at skrive og analysere kode udgør en stigende trussel. Ifølge Googles forskere indeholdt hackernes malware kode med karakteristiske træk, herunder:

• Rigelige kodekommentarer (docstrings),
• Delvis hallucineret tekst,
• En struktureret, tekstbogsagtig Python-format, typisk for træningsdata fra store sprogmodeller.

Disse kendetegn afslører, at AI spiller en central rolle i udviklingen af avanceret malware.

Eksperter advarer: AI kommer til at ændre cyberkrigsførelsen

Cybersecurity-eksperter og regeringer verden over er blevet mere opmærksomme på AI’s dobbelte anvendelse. Mens AI kan styrke forsvaret mod cyberangreb, kan det også blive et kraftfuldt våben i hænderne på kriminelle og statslige aktører.

Googles opdagelse understreger behovet for øget forskning og regulering inden for AI-baseret cybersikkerhed. Eksperterne frygter, at antallet af AI-drevne angreb vil stige markant i de kommende år, hvilket stiller nye krav til både virksomheder og myndigheder.