גוגל הודיעה לראשונה כי עצרה מתקפת סייבר מתוחכמת שפותחה בעזרת טכנולוגיות בינה מלאכותית. על פי דוח שפרסמה קבוצת המודיעין האיום של גוגל (Google Threat Intelligence Group, GTIG), קבוצות איום סייבר בולטות תכננו לנצל פגיעות קריטית המכונה zero-day לצורך מתקפה המונית שתאפשר להן לעקוף אימות דו-שלבי במערכת ניהול מבוססת אינטרנט וקוד פתוח.
החוקרים של גוגל גילו רמזים ברורים לכך שהפיתוח של הניצול כלל שימוש בבינה מלאכותית. בין הרמזים: ציון CVSS מומצא (hallucinated CVSS score) ופירמוט מובנה ומדויק הדומה לנתוני אימון של מודלי שפה גדולים (LLM).
הפגיעות שהתגלתה מאפשרת להאקרים לחדור למערכות מאובטחות באמצעות ניצול חולשה במערכת הניהול, תוך עקיפת מנגנוני האימות הקיימים. על פי הדיווח, המתקפה המתוכננת הייתה עתידה להשפיע על מספר רב של ארגונים ומשתמשים.
גוגל מסרה כי פעלה במהירות כדי לסגור את הפגיעות ולמנוע את מימושה. החברה הדגישה כי זוהי הפעם הראשונה שבה זוהתה מתקפת סייבר שפותחה בעזרת בינה מלאכותית, מה שמדגיש את ההתפתחות המהירה של טקטיקות התקיפה בעידן הטכנולוגיות החדשות.
החוקרים ציינו כי הניתוח של הקוד שנמצא חשף מאפיינים ייחודיים המצביעים על מעורבות של כלים מבוססי AI, כולל מבנה קוד עקבי ומדויק שלא היה נפוץ קודם לכן בהתקפות מסוג זה.
לדברי גורמים בתעשייה, אירוע זה מהווה אזהרה נוספת לגבי הצורך בחיזוק מערכי האבטחה לאור ההתקדמות המהירה של טכנולוגיות הבינה המלאכותית, אשר עשויות לשמש גם לתועלת וגם לנזק בעולם הסייבר.
כתבות קשורות
סנאפ ו-YouTube הגיעו להסכם נוסף בתביעה על התמכרות לרשתות חברתיות
The companies are facing numerous other legal challenges.
יוטיוב מרחיבה כלי זיהוי דיפייק AI לכל משתמשי האתר הבוגרים
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
הסכם זכויות היוצרים של Anthropic בסכום 1.5 מיליארד דולר נתקל בקשיים בעקבות עיכוב של שופטת
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv מטיל איסור על חוקרים המעלים מאמרים מלאי 'AI slop'
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
שרת המאמרים המדעיים arXiv תאסור הגשות של תוכן מלאכותי שגוי
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI מבצעת שינויים ארגוניים נוספים בניסיון להאיץ את פיתוח סוכני הבינה המלאכותית
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
תחנות רדיו בינה מלאכותית נכשלו – והראו מדוע אי אפשר לסמוך על AI לבדו
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
גוגל מעדכנת את כללי הספאם: ניסיונות להשפיע על תוצאות הבינה המלאכותית ייחשבו כספאם
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...