Google ontdekt AI-gegenereerde zero-day voordat criminelen toeslaan

Onderzoekers van Google hebben een zero-day-exploit ontdekt die volledig met kunstmatige intelligentie is ontwikkeld. Voordat een beruchte cybercriminele groep de kwetsbaarheid kon misbruiken voor een grootschalige aanval, waarschuwde Google de getroffen leverancier. Dit blijkt uit een rapport dat maandag is gepubliceerd.

Hoewel dit niet de eerste keer is dat aanvallers AI gebruiken om exploits te ontwikkelen, is het wel het eerste geval waarbij Google Threat Intelligence Group overtuigend bewijs heeft gevonden dat deze zorgwekkende trend nu werkelijkheid wordt.

"We hebben eindelijk bewijs gevonden dat dit gebeurt. Dit is waarschijnlijk slechts het topje van de ijsberg en het zal zeker niet de laatste keer zijn."

Google heeft de specifieke kwetsbaarheid, die inmiddels is gedicht, niet bekendgemaakt. Ook de naam van het getroffen "populaire, open-source, webgebaseerde beheertool" is niet vrijgegeven. Wel is duidelijk dat het defect een Python-script betrof dat aanvallers in staat stelde om tweefactorauthenticatie te omzeilen.

Ook details over hoe de zero-day is ontdekt of welke cybercriminele groep achter de geplande aanval zat, zijn niet gedeeld. Wel benadrukt Google dat deze groep een geschiedenis heeft van hoogprofielincidenten en grootschalige exploitatie.

Hoewel GTIG ervan overtuigd is dat de groep AI heeft ingezet tijdens het hele proces, is nog niet duidelijk of de technologie ook de kwetsbaarheid zelf heeft gevonden. De gebruikte AI-modellen – Google is ervan overtuigd dat het niet om Gemini of Mythos van Anthropic ging – lieten duidelijke sporen achter in de exploitcode. Denk aan ongebruikelijke documentatiestrings in Python, sterk geannoteerde code en een niet-bestaande CVSS-score. Deze artefacten wezen Google op de betrokkenheid van AI.

GTIG waarschuwde al langer voor AI-gegenereerde exploits in het wild, vooral na de ontdekking van een zero-day door de eigen AI-agent Big Sleep eind 2024.

"Ik denk dat het keerpunt twee jaar geleden was, toen we bewezen dat dit mogelijk was."

Volgens Hultquist zijn er waarschijnlijk al meerdere AI-gegenereerde zero-days in omloop. Toch maakt deze ontdekking hem minder bezorgd dan wat deze gebeurtenis voorspelt voor de toekomst.

"Het spel is al begonnen en we verwachten dat de capaciteit om dit soort aanvallen uit te voeren snel zal groeien. We gaan ervan uit dat dit een veel groter probleem wordt, met nog verwoestendere zero-day-aanvallen naarmate de technologie zich ontwikkelt."