Google har för första gången identifierat och stoppat en noll-dagssårbarhet som utvecklats med hjälp av artificiell intelligens. Enligt en rapport från Googles hotintelligensgrupp Google Threat Intelligence Group (GTIG) planerade framstående cyberbrottslingar att utnyttja sårbarheten för en storskalig massattack.
Genom att utnyttja sårbarheten hade angriparna kunnat kringå tvåfaktorsautentisering i ett okänt öppenkällkodsbaserat administrationsverktyg för webbsystem. Attacken riktade sig mot ett verktyg som används för att hantera och administrera webbaserade system, vilket hade kunnat leda till omfattande säkerhetsintrång.
AI-spår i attackkoden
Googles säkerhetsforskare upptäckte tydliga tecken på AI-assistans i den Python-baserade attackkoden. Bland annat fanns en hallucinerad CVSS-poäng – en standardiserad sårbarhetsbedömning – som tyder på att AI genererat felaktig information. Dessutom visade koden en strukturerad och läroboksliknande formatering, vilket är typiskt för data som tränats på stora språkmodeller (LLM).
Förebyggande åtgärder och framtida hot
Google meddelar att sårbarheten har åtgärdats och att inga kända attacker har genomförts. Händelsen belyser dock hur AI alltmer används för att utveckla sofistikerade cyberhot. Experter varnar för att AI-verktyg kan snabba upp och automatisera skapandet av skadlig kod, vilket gör det svårare för säkerhetsteam att hålla jämna steg.
Företag och myndigheter uppmanas att uppdatera sina system och implementera ytterligare säkerhetsåtgärder för att skydda sig mot liknande hot i framtiden.
Relaterade artiklar
Snapchat och YouTube har nått förlikning i stor sociala medier-skadeståndsfall
The companies are facing numerous other legal challenges.
YouTube inför AI-verktyg för att upptäcka deepfakes för alla vuxna användare
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Anthropic och $1,5 miljarders upphovsrättsavtal i gungning – domare stoppar godkännande
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv inför stränga regler mot AI-genererade forskningsartiklar
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv förbjuder inskick av AI-genererad forskning med felaktigheter
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI:s omorganisation för att vinna AI-agentkriget – Brockman tar ledarroll
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
AI-drivna radiostationer misslyckas med att tjäna pengar – experiment avslöjar riskerna
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google skärper mot spammare som försöker manipulera AI-sökresultat
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...