Google oppdaget AI-generert sårbarhet før angripere kunne utnytte den

Google avdekket AI-generert null-dagers sårbarhet før angripere

Google Threat Intelligence Group (GTIG) har oppdaget en null-dagers sårbarhet utviklet ved hjelp av kunstig intelligens. Før en kjent cyberkrimgruppe kunne igangsette en storstilt eksploateringskampanje, varslet Google den berørte leverandøren, ifølge en rapport publisert mandag.

Denne hendelsen er trolig ikke den første gangen angripere har brukt AI til å utvikle null-dagers sårbarheter, men det er første gang GTIG har funnet overbevisende bevis for at denne bekymringsfulle utviklingen er i gang. «Vi har endelig funnet bevis på at dette skjer,» sier John Hultquist, sjefsanalytiker ved GTIG, til CyberScoop. «Dette er trolig bare toppen av isfjellet, og det kommer ikke til å bli den siste gangen.»

AI har endret spillereglene innen cyberkriminalitet

Google har valgt å ikke oppgi hvilken spesifikk sårbarhet det dreier seg om, da den allerede er patchet. De har heller ikke navngitt det «populære, åpen kildekode-baserte webverktøyet» som ble berørt. Det ble imidlertid bekreftet at svakheten lå i en Python-skrip som tillot angripere å omgå to-faktor-autentisering for tjenesten.

Forskerne har også holdt tilbake detaljer om hvordan de oppdaget sårbarheten, samt hvilken cyberkrimgruppe som planla å utnytte den i en storstilt angrepsbølge. Gruppen har imidlertid en «sterk historikk med høyprofilerte hendelser og masseeksploatering», ifølge Hultquist, noe som tyder på at aktøren er velkjent blant cybersikkerhetseksperter.

GTIG mener det er stor sannsynlighet for at gruppen har brukt AI på en meningsfull måte gjennom hele prosessen, men de har ennå ikke fastslått om teknologien også oppdaget sårbarheten som ble utviklet til et eksploit.

AI-avtrykk avslørte sårbarhetens opprinnelse

Uansett hvilken AI-modell angriperne brukte – Google er sikre på at det ikke var Gemini eller Anthropics Mythos – etterlot den tydelige avtrykk i eksploit-koden. Disse inkluderte dokumentasjonsstrenger i Python, svært annotert kode og en «hallusinert», ikke-eksisterende CVSS-score. Disse sporene avslørte at AI hadde vært avgjørende involvert i utviklingen, ifølge Hultquist.

GTIG har lenge advart om og forventet at AI-utviklede eksploits ville dukke opp i det «ville vesten» av cybersikkerhet, spesielt etter at deres AI-agent Big Sleep oppdaget en null-dagers sårbarhet sent i 2024.

«Jeg tror at vendepunktet var for to år siden da vi beviste at dette var mulig,» sier Hultquist. «Det er sannsynlig at det allerede finnes flere AI-utviklede null-dagers sårbarheter i omløp.»

En bekymrende utvikling for fremtidens cybersikkerhet

Selv om oppdagelsen av en AI-generert null-dagers sårbarhet er alarmerende, er det ikke selve hendelsen som bekymrer GTIG mest. Det er snarere hva dette signaliserer for fremtiden.

«Spillet har allerede begynt, og vi forventer at utviklingen vil skyte fart,» sier Hultquist. «Vi forventer at dette kommer til å bli et mye større problem, med enda mer ødeleggende null-dagers angrep etter hvert som AI-kapasitetene vokser.»

Eksperter understreker at dette er en påminnelse om at cyberkriminalitet stadig blir mer sofistikert, og at organisasjoner må øke sine forsvarsmekanismer for å motstå fremtidige trusler.