Google afværger AI-udviklet cyberangreb før det kunne ramme

Google afværger AI-drevet cyberangreb i tide

Google Threat Intelligence Group (GTIG) har identificeret og forhindret et AI-udviklet zero-day-angreb, inden en velkendt cyberkriminel gruppe kunne igangsætte en storstilet udnyttelse. Ifølge en rapport offentliggjort mandag formåede Google at advare den berørte leverandør i tide og dermed forhindre en potentiel digital katastrofe.

AI i cyberkrigens frontlinje

Dette er første gang, at GTIG har fundet overbevisende beviser for, at AI aktivt anvendes til at udvikle zero-day-sårbarheder – en bekymrende udvikling, som eksperter har advaret om i årevis. Ifølge John Hultquist, chefanalytiker hos GTIG, er dette blot toppen af isbjerget.

"Vi har endelig fundet beviser for, at dette sker. Dette er sandsynligvis blot begyndelsen, og det bliver bestemt ikke det sidste tilfælde."

Hemmeligholdelse om sårbarhed og angriber

Google har valgt ikke at oplyse, hvilken specifik sårbarhed der var tale om, eller hvilken "populær open-source web-administrationsværktøj" den berørte. Det vides dog, at fejlen lå i et Python-script, der tillod angribere at omgå to-faktor-autentifikation for tjenesten.

Forskere har ligeledes undladt at afsløre, hvordan de opdagede zero-day-angrebet, eller hvilken cyberkriminel gruppe der stod bag. Gruppen har imidlertid en historie med højprofilerede angreb og massiv udnyttelse, hvilket tyder på, at de er velkendte inden for cybersikkerhedsbranchen.

AI-aftryk i exploit-koden

GTIG mener med stor sikkerhed, at gruppen anvendte AI gennem hele processen, men det er endnu uvist, hvorvidt AI’en også identificerede sårbarheden. Uanset hvilket AI-modeller der blev brugt – Google er sikre på, at det hverken var Google Gemini eller Anthropic’s Mythos – efterlod det karakteristiske spor i koden, der afslørede AI’s involvering.

Disse spor omfattede dokumentationsstrenge i Python, stærkt kommenteret kode og en hallucineret, ikke-eksisterende CVSS-score, hvilket var med til at afsløre AI’s rolle, forklarer Hultquist.

AI-udviklede exploits er en voksende trussel

GTIG har længe advaret om, at AI-udviklede exploits ville blive et reelt problem. Allerede i slutningen af 2024 fandt agenten Big Sleep en zero-day-sårbarhed ved hjælp af AI.

"Jeg tror, at vendepunktet var for to år siden, da vi beviste, at dette var muligt," siger Hultquist og tilføjer, at der sandsynligvis allerede findes flere AI-udviklede zero-days i omløb.

En bekymrende udvikling for fremtiden

Selvom opdagelsen af et AI-udviklet zero-day er alvorlig, er det ifølge Hultquist mindre bekymrende end, hvad dette tilfælde varsler om fremadrettet.

"Spillet er allerede begyndt, og vi forventer en stejl stigning i kapacitet. Vi regner med, at dette vil blive et langt større problem, og at der vil komme mere ødelæggende zero-day-angreb i takt med, at AI’s evner vokser."

Hvad betyder dette for virksomheder og myndigheder?

Eksperter understreger, at denne udvikling kræver øget opmærksomhed og proaktive sikkerhedsforanstaltninger. AI’s indtog i cyberkrigsførelsen betyder, at angribere nu kan udvikle mere sofistikerede og målrettede angreb på kortere tid. Virksomheder og myndigheder bør derfor:

• Opdatere og patch’e systemer løbende for at lukke kendte sårbarheder.
• Investere i AI-detektion for at identificere unormale mønstre i kode og adfærd.
• Styrke overvågning af netværkstrafik for at opdage tidlige tegn på AI-genererede angreb.
• Uddanne medarbejdere i at genkende og rapportere mistænkelig aktivitet.