Google découvre une faille zero-day développée par IA avant son exploitation par des cybercriminels

Une faille zero-day générée par IA détectée avant son utilisation malveillante

Le groupe de recherche Google Threat Intelligence Group (GTIG) a identifié une faille zero-day développée à l'aide d'intelligence artificielle. L'entreprise a alerté le fournisseur concerné avant qu'un groupe cybercriminel connu ne puisse l'exploiter massivement, selon un rapport publié lundi.

Cette découverte marque un tournant dans l'évolution des cybermenaces. Bien que l'utilisation de l'IA pour créer des failles zero-day ne soit pas inédite, c'est la première fois que des preuves tangibles de cette pratique sont mises au jour par Google.

« Nous avons enfin des preuves concrètes que cela se produit. »
John Hultquist, analyste en chef chez GTIG, s'exprimant à CyberScoop

Cette faille, désormais corrigée, concernait un outil d'administration web open source populaire. Elle permettait aux attaquants de contourner l'authentification à deux facteurs via un script Python vulnérable.

Des indices révélateurs de l'implication de l'IA

Google n'a pas révélé le nom du groupe cybercriminel ni les détails techniques de la faille. Cependant, les chercheurs ont identifié des artefacts caractéristiques dans le code de l'exploit, suggérant une génération automatisée par IA.

Parmi ces indices :

• Des chaînes de documentation en Python inhabituellement détaillées
• Un code fortement annoté
• Un score CVSS (Common Vulnerability Scoring System) fictif

Ces éléments, incompatibles avec un développement humain, ont permis à Google de confirmer l'implication de l'IA dans la création de l'exploit.

Une menace en pleine expansion

Les chercheurs estiment que le groupe criminel a utilisé un modèle d'IA spécifique, différent de ceux développés par Google (Gemini) ou Anthropic (Mythos). L'IA aurait joué un rôle clé tout au long du processus, bien que son implication exacte dans la découverte initiale de la faille reste à déterminer.

Cette découverte s'inscrit dans une tendance plus large. En 2024, le propre agent IA de Google, Big Sleep, avait déjà identifié une faille zero-day.

« Le moment décisif remonte à deux ans, lorsque nous avons prouvé que c'était possible. »
John Hultquist, analyste en chef chez GTIG

Les experts s'attendent à ce que d'autres failles zero-day générées par IA soient déjà en circulation, voire exploitées.

Un avertissement pour l'avenir

Pour John Hultquist, la véritable préoccupation ne réside pas dans cette faille spécifique, mais dans ce qu'elle annonce pour l'avenir des cybermenaces.

« Le jeu a déjà commencé, et la trajectoire des capacités est exponentielle. »
« Nous nous attendons à ce que cette tendance s'amplifie, avec des attaques zero-day plus dévastatrices à mesure que les capacités des outils d'IA progressent. »