AI סוכנים מאיימים על זהות דיגיטלית: האם העולם מוכן לאתגר החדש?

חברת אנטרופיק הודיעה לאחרונה כי לא תוציא לשוק את מודל הבינה המלאכותית המתקדם ביותר שלה, מיתוס, בשל סיבות בטיחותיות. המודל הצליח לאתר אלפי פגיעויות תוכנה שלא היו ידועות עד כה — פגמים שהתקיימו במערכות הפעלה מרכזיות ובדפדפנים במשך עשרות שנים. אנטרופיק הסבירה כי יכולותיו של המודל מסוכנות מדי להפצה רחבה, שכן אותן יכולות המאפשרות לו לאתר ולטפל בפגיעויות יכולות לשמש גם תוקפים להפצתן. סוכן AI יחיד, נמסר, יכול לסרוק אחר נקודות תורפה בקצב ובהיקף שלא ניתן להשוות לאלפי האקרים אנושיים.

החלטה זו מעידה על האתגר הגדול העומד בפני העולם: אותן מערכות בינה מלאכותית שארגונים ממהרים לפרוס כסוכנים אוטונומיים — מתזמני פגישות, כותבי קוד ומנהלי תהליכים — מסוגלות גם לחדור למערכות הגנה דיגיטליות בקצב ובהיקף שלא ניתן לעקוב אחריהם. רוב המערכות הללו עדיין נשענות על מודל אבטחה שתוכנן לעידן שבו אדם ישב מאחורי כל מקלדת.

ניתן לדמות זאת לבניין שבו כל דלת ננעלת באמצעות מנגנון שתוכנן לזהות ידיים אנושיות בלבד. כעת, הבניין מלא ברובוטים — חלקם שליחים מורשים, חלקם פולשים — והמנגנונים אינם מסוגלים להבחין ביניהם.

המודל הבטיחותי המסורתי קורס

עד לא מזמן, ניתן היה להיכנס למערכת באמצעות סיסמה כתובה על פתק, ולאחר מכן לגשת לעולם הדיגיטלי תוך כדי שתיית קפה. כל שכבת אבטחה נוספת — סיסמאות מורכבות, שאלות אבטחה, סריקות ביומטריות ואימות דו-שלבי — התבססה על הנחת יסוד אחת: אדם עומד בצד השני. סוכני AI שוברים הנחה זו משני כיוונים במקביל.

מצד אחד, סוכנים מורשים זקוקים לזהות דיגיטלית כדי לפעול בשם המשתמש. לדוגמה:

• Operator של OpenAI מנווט באתרים מטעם המשתמש.
• Gemini של גוגל יכול לתכנן חופשה משפחתית תוך כדי שינה.
• Visa השיקה לאחרונה פלטפורמה המאפשרת לסוכני AI לבצע רכישות עבור צרכנים.

אלה אינם ניסויים או תצוגות מרתקות מכנס טכנולוגיה, אלא מוצרים פעילים הפועלים בשם אנשים אמיתיים — וכדי לעשות זאת, הם זקוקים לזהותכם.

מצד שני, תוקפים יכולים להעמיד פנים כאילו הם בני אדם בקנה מידה חסר תקדים. אותה בינה מלאכותית המסוגלת לשמש כסוכן עוזר יכולה גם להוות מתחזה זדוני. הם אינם פורצים למערכות, הם נכנסים אליהן — באמצעות אישורים משותפים, תהליכי גיוס, שערי ספקים וכלי שיתוף פעולה.

זהות דיגיטלית: האתגר החדש של ארגונים

רוב הארגונים עדיין מטפלים בזהות דיגיטלית כבעיה של כניסה למערכת — משהו שצוות ה-IT מטפל בו באמצעות סיסמאות חזקות או שכבות אימות נוספות. אך האתגר האמיתי כיום הוא לדעת מי — או מה — כבר הורשה להיכנס. ההבחנה בין אדם למכונה הולכת ונעלמת בדיוק כשמערכות דיגיטליות הופכות לאוטונומיות יותר ויותר.

כאשר ההבחנה מטשטשת, הנזק הופך למוחשי. לדוגמה:

• תהליך רכש שאינו יכול להבחין בין מנהל אנושי לבין מתחזה AI יוציא הזמנות תחת סמכות מזויפת.
• יומני ציות שאינם מסוגלים לקבוע כיצד בוצעה פעולה מסוימת יובילו לחוסר שקיפות ולהפרות רגולטוריות.

הסיכון אינו תיאורטי עוד. חברות כמו Microsoft ו-Google כבר מדווחות על ניסיונות חדירה באמצעות סוכני AI, כאשר התוקפים מנצלים את העובדה שמערכות האבטחה אינן מותאמות לזיהוי פעולות מכניות.

«המודל הבטיחותי הישן, שתוכנן לבני אדם, אינו מסוגל להתמודד עם מכונות שמתחזות לבני אדם. אנחנו נמצאים בנקודת מפנה שבה זהות דיגיטלית הופכת לנכס הנשחק בקצב שלא ניתן לעצור באמצעים מסורתיים.»

— מומחה לאבטחת מידע, חברת CyberGuard

מה צפוי לנו בעתיד?

המרוץ לפריסת סוכני AI ממשיך, אך ללא מענה הולם לאתגר הזהות הדיגיטלית, ארגונים עלולים למצוא את עצמם חשופים למתקפות חסרות תקדים. הפתרונות הנדרשים כוללים:

• אימות דינמי המבוסס על התנהגות ולא רק על אישורים סטטיים.
• מערכות זיהוי אנומליות המסוגלות לזהות פעולות מכניות ולהבחין בין אדם למכונה.
• תקנים חדשים לזהות דיגיטלית שיתאימו לעידן הבינה המלאכותית.

השאלה אינה האם סוכני AI יהפכו לחלק בלתי נפרד מהעולם הדיגיטלי, אלא האם העולם יהיה מוכן לכך כאשר הם יפרצו את גבולות הזהות המסורתית.