Firma Google poinformowała po raz pierwszy o wykryciu i zablokowaniu exploita zero-day, którego powstanie było wspomagane przez sztuczną inteligencję. Według raportu Google Threat Intelligence Group (GTIG), za atakiem stali „znaczących cyberprzestępcy”, którzy planowali przeprowadzenie masowej akcji wykorzystującej lukę.
Udałoby im się wówczas ominąć uwierzytelnianie dwuskładnikowe w nieznanym „otwartoźródłowym, webowym narzędziu do administracji systemami”. Badacze z Google znaleźli w kodzie Pythona używanym w exploicie ślady sugerujące udział AI, takie jak „halucynacyjny wynik CVSS” oraz „ustrukturyzowany, podręcznikowy” format spójny z danymi szkoleniowymi modeli LLM.
Eksperci podkreślają, że exploit wykorzystywał lukę w zabezpieczeniach, która mogła zostać użyta do przeprowadzenia szeroko zakrojonej kampanii cybernetycznej. Choć szczegóły techniczne nie zostały ujawnione, Google ostrzega, że tego typu ataki stają się coraz powszechniejsze wraz z rozwojem narzędzi opartych na AI.
Incydent ten pokazuje, jak sztuczna inteligencja może być wykorzystywana zarówno do tworzenia, jak i wykrywania zagrożeń. Zdaniem ekspertów, cyberprzestępcy coraz częściej sięgają po AI, aby automatyzować ataki i zwiększać ich skuteczność.
Powiązane artykuły
Snapchat i YouTube zawarły ugodę w sprawie oskarżeń o uzależnienie od mediów społecznościowych
The companies are facing numerous other legal challenges.
YouTube udostępnia narzędzie do wykrywania deepfake’ów dla wszystkich dorosłych użytkowników
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Sąd odrzuca gigantyczną ugodę Anthropic o 1,5 mld dolarów za naruszenia praw autorskich
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv wprowadza surowe kary za „AI slop” — zakaz publikacji na rok
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
Serwer preprintów arXiv wprowadza surowe kary za fałszywe treści AI
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI reorganizuje struktury, aby przyspieszyć prace nad AI agentami
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
AI jako prezenterzy radiowi: eksperyment Andon Labs pokazuje zagrożenia sztucznej inteligencji
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google wprowadza nowe zasady przeciwko manipulowaniu wynikami AI w wyszukiwarce
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...