Google entdeckt KI-generierte Zero-Day-Lücke vor Cyberkriminellen

Google stoppt KI-gestützte Zero-Day-Lücke vor Cyberangriffen

Forscher des Technologiekonzerns Google haben eine Zero-Day-Lücke identifiziert, die mit künstlicher Intelligenz entwickelt wurde. Bevor eine bekannte Cybercrime-Gruppe die Schwachstelle für massenhafte Ausnutzung nutzen konnte, warnte Google den betroffenen Anbieter und ermöglichte so eine schnelle Behebung, wie das Unternehmen in einem am Montag veröffentlichten Bericht mitteilte.

Erste konkrete Beweise für KI-gestützte Exploits

Laut Google ist dies der erste dokumentierte Fall, in dem ein Unternehmen überzeugende Beweise für die Entwicklung von Zero-Day-Exploits durch KI vorlegen kann. Bisher gab es zwar Spekulationen über solche Szenarien, doch nun scheint sich die befürchtete Eskalation zu bestätigen.

„Wir haben erstmals konkrete Beweise dafür gefunden, dass dies geschieht.“
John Hultquist, Chief Analyst bei Google Threat Intelligence Group (GTIG)

Hultquist betont, dass es sich dabei vermutlich nur um die Spitze des Eisbergs handelt: „Das ist sicherlich nicht der letzte Fall dieser Art.“

Details zur Schwachstelle und den Angreifern

Google gab keine näheren Informationen zu der spezifischen Zero-Day-Lücke preis, die bereits behoben wurde. Auch der Name des betroffenen Tools – eine „beliebte, webbasierte Open-Source-Verwaltungssoftware“ – wurde nicht genannt. Bekannt ist jedoch, dass die Schwachstelle in einem Python-Skript bestand, das Angreifern die Umgehung der Zwei-Faktor-Authentifizierung ermöglichte.

Ebenso wurden keine Details darüber veröffentlicht, wie Google die Lücke entdeckte oder welche Cybercrime-Gruppe dahinterstand. Diese Gruppe verfüge jedoch über eine „beeindruckende Bilanz bei hochkarätigen Vorfällen und massenhafter Ausnutzung von Schwachstellen“, so Hultquist. Damit seien die Angreifer unter Cybersecurity-Experten bekannt und gefürchtet.

KI hinterließ eindeutige Spuren im Exploit-Code

Google geht davon aus, dass die Angreifer KI nicht nur zur Entwicklung, sondern auch zur Ausnutzung der Schwachstelle einsetzten. Zwar ist noch unklar, ob die KI die Lücke selbst entdeckte, doch die Analyse des Exploit-Codes zeigte eindeutige Indizien für maschinelle Erstellung:

• Ungewöhnlich detaillierte Dokumentationsstrings in Python
• Übermäßig annotierter Code
• Eine nicht existente, aber erfundene CVSS-Bewertung

„Diese Artefakte sind untypisch für menschliche Entwickler und wiesen uns auf die KI-Nutzung hin“, erklärt Hultquist.

Frühere Warnungen und zukünftige Risiken

Die GTIG hatte bereits im vergangenen Jahr mit ihrem KI-Agenten „Big Sleep“ eine Zero-Day-Lücke entdeckt. Damals bewies das Team, dass KI in der Lage ist, solche Schwachstellen zu finden. „Ich denke, der Wendepunkt war vor zwei Jahren, als wir bewiesen, dass dies möglich ist“, so Hultquist.

Doch die aktuelle Entdeckung geht über einzelne Fälle hinaus: Sie zeigt, dass KI-gestützte Angriffe bereits Realität sind und sich weiter verschärfen werden. „Das Spiel hat bereits begonnen, und die Fähigkeiten werden sich rasant entwickeln“, warnt Hultquist. „Wir erwarten, dass dies zu noch verheerenderen Zero-Day-Angriffen führen wird, sobald die Technologie ausgereifter ist.“

Fazit: Eine neue Ära der Cyberbedrohungen

Die Entdeckung unterstreicht, wie schnell sich die Bedrohungslandschaft durch KI verändert. Während bisherige Angriffe auf menschliche Fehler oder gezielte Recherche angewiesen waren, ermöglichen KI-Systeme nun eine automatisierte und skalierbare Ausnutzung von Schwachstellen. Unternehmen und Sicherheitsbehörden müssen sich auf diese neue Realität einstellen, um zukünftige Angriffe zu verhindern.