מודל הבינה המלאכותית המסוכן של אנטרופיק דלף לידיים הלא נכונות

מודל 'מיתוס' של אנטרופיק: כלי סייבר רב עוצמה שנפל לידיים הלא נכונות

חברת אנטרופיק, אחת המובילות בתחום הבינה המלאכותית, הודיעה כי המודל המתקדם שלה, מיתוס, אשר נועד במקור לזיהוי וניצול פגיעויות במערכות הפעלה ודפדפנים מרכזיים, עלול להיות מסוכן אם יגיע לידיים הלא נכונות. כעת מתברר כי המודל דלף לקבוצה קטנה של משתמשים לא מורשים, על פי דיווח של בלומברג.

אחד מחברי הקבוצה, אשר זוהה רק כ"קבלן צד שלישי של אנטרופיק", מסר לסוכנות הידיעות כי חברי פורום מקוון פרטי הצליחו להשיג גישה למודל באמצעות שילוב של טקטיקות שונות. בין השיטות ששימשו: ניצול הגישה של הקבלן עצמו וכלי חקירה מקוונים נפוצים, אשר מאפשרים לאיתור מידע ברשת.

יכולותיו המסוכנות של מודל 'מיתוס'

על פי תיאור החברה, המודל Claude Mythos Preview מסוגל לזהות ולנצל פגיעויות ב:

• כל מערכות ההפעלה המרכזיות (Windows, macOS, Linux ועוד)
• כל הדפדפנים המובילים (Chrome, Firefox, Safari ועוד)

יכולות אלו הופכות אותו לכלי רב עוצמה, אך גם מסוכן ביותר אם יגיע לידיים הלא נכונות. אנטרופיק הדגישה כי המודל נועד לשימוש מקצועי בלבד, בעיקר בתחומי אבטחת המידע והסייבר, ולא לציבור הרחב.

תגובת החברה והסיכונים הנשקפים

אנטרופיק טרם פרסמה הצהרה רשמית בנושא הדליפה, אך גורמים פנימיים מסרו כי החברה פועלת לביטול הגישה הבלתי מורשית למודל ומחזקת את אמצעי האבטחה שלה. יחד עם זאת, הדליפה מעלה חששות כבדים בקרב מומחי סייבר לגבי הפוטנציאל לניצול לרעה של המודל על ידי גורמים עוינים, לרבות קבוצות האקרים או מדינות עוינות.

"מודל כזה יכול לשמש ככלי התקפי רב עוצמה, המסוגל לזהות פגיעויות שלא התגלו קודם לכן ולנצלן באופן אוטומטי. הדבר מהווה סיכון משמעותי לאבטחת מידע גלובלית," אמר מומחה סייבר לא מזוהה לבלומברג.

השלכות אפשריות והדרך קדימה

הדליפה מעלה שאלות רבות בנוגע לאבטחת מודלי בינה מלאכותית מתקדמים ולשליטה בהם. אנטרופיק נדרשת כעת להדק את הפרוטוקולים שלה ולבחון מחדש את מדיניות הגישה למודלים רגישים מסוג זה. בנוסף, ייתכן שגורמים רגולטוריים יתערבו על מנת להסדיר את השימוש במודלים בעלי פוטנציאל מסוכן.

התקרית מדגישה את הצורך הדחוף בהגברת האבטחה סביב טכנולוגיות בינה מלאכותית מתקדמות, אשר עלולות לשמש למטרות זדוניות אם לא ינוהלו כראוי.