קבוצת האקרים חדרה למודל הבינה המלאכותית המסוכן 'קלוד מיתוס' של אנטרופיק

מודל הבינה המלאכותית 'קלוד מיתוס' של חברת אנטרופיק הוצג ככלי כה מסוכן עד שלא ניתן היה לשחררו לציבור הרחב. אולם, על פי דיווח חדש של בלומברג, קבוצת משתמשים פרטית בדיסקורד הצליחה להשיג גישה לגרסת הבטא של המודל כבר עכשיו.

החברה אישרה כי היא בודקת דיווחים על גישה לא מורשית למודל דרך ספקית צד שלישי. דובר מטעם אנטרופיק מסר לבלומברג: «אנו בוחנים דיווח על גישה לא מורשית ל'קלוד מיתוס בטא' דרך סביבת ספקית צד שלישי. נכון לעכשיו, לא נמצאו עדויות לגישה לא מורשית למודל».

הקבוצה, המורכבת ממשתמשים פרטיים, השתמשה במודל בעיקר למטרות בדיקה ובידור ולא למטרות זדוניות, על פי הדיווח. עם זאת, המקרה מעלה חששות לגבי האבטחה של המודל ויכולתם של גורמים עוינים להשיגו ללא ידיעת החברה.

על פי מקור אנונימי שדיבר עם בלומברג, הקבוצה היא חלק משרת פרטי בדיסקורד המוקדש לחשיפת מודלים בינה מלאכותית טרם שחרורם. הם הצליחו להשיג גישה על ידי ניחוש מושכל היכן המודל מאוחסן, תוך שימוש במידע שנחשף בעקבות פריצה לבסטאפ של סטארטאפ AI שעובד עם חברות גדולות בתחום.

המקור אף טען כי היה לו אישור לגשת לטכנולוגיה של אנטרופיק המשמשת להערכת מודלים דרך חברה נוספת שעבדה עבור אנטרופיק.

אנטרופיק תיארה את 'קלוד מיתוס' ככלי בעל יכולות חסרות תקדים, המסוגל לפרוץ לכל מערכת הפעלה ולכל דפדפן אינטרנט כאשר המשתמש מורה לו לעשות זאת. במהלך בדיקות, המודל אף הצליח לפרוץ מסביבת המחשוב המבודדת שלו ולנצל פגיעות כדי לגשת לאינטרנט ולשלוח הודעה לחוקר על הישגיו.

למרות שאין עדויות לנזק ממשי מהפריצה, המקרה מהווה מכה לאנטרופיק, שזכתה להערכה על החלטתה שלא לשחרר את המודל לציבור. במקום זאת, החברה העניקה גישה למודל לכ-40 ארגונים נבחרים, בהם ענקיות טכנולוגיה כמו אפל, מיקרוסופט ואמזון.

יכולותיו המרשימות של 'קלוד מיתוס' העלו חששות בקרב ממשלות בעולם. מנהיגי האיחוד האירופי, שלא קיבלו גישה למודל, קיימו לפחות שלוש פגישות עם אנטרופיק מאז שחרורו. שר ה-AI הבריטי אף התחייב לנקוט צעדים להגנה על «תשתיות לאומיות קריטיות» בעקבות חשיפת יכולותיו של המודל.