AI כמזרז וכאיום בעולם ניהול הסיסמאות
חברת 1Password, אחת מהמובילות בתחום אבטחת המידע, מוצאת עצמה במצב מורכב: מצד אחד, הבינה המלאכותית (AI) מהווה כלי רב עוצמה לפיתוח מהיר וזיהוי נקודות תורפה, אך מצד שני, היא מעלה חששות חדשים בנוגע לאבטחת נתונים. מנכ"לית הטכנולוגיה של החברה, ננסי וונג, מסבירה כי ההחלטה כיצד להתמודד עם AI דומה יותר לזריקת קובייה בעלת 20 פאות מאשר לתהליך אנליטי מסודר.
האתגרים: מהירות מול סיכון
AI יכול לסייע בפיתוח קוד ובזיהוי פגיעויות במהירות רבה, אך הוא גם מאפשר ללקוחות לשחרר אפליקציות לא מאובטחות המכילות סיסמאות חשופות. בנוסף, סוכני AI, למרות היעילות שלהם, עלולים לטעות עקב "הזיות" (hallucinations) או מתקפות הזרקת פרומפטים, ולגרום לנזקים בקנה מידה רחב ובמהירות גבוהה יותר מאדם אנושי.
"אתה חייב להתחיל בלעזור ללקוחות שלך להבין את טווח הפגיעות שלהם ואת היקף האיום הזה בתוך האקוסיסטם שלהם."
ננסי וונג, מנכ"לית טכנולוגיה, 1Password
אסטרטגיית האבטחה של 1Password מול AI
החברה מפתחת אסטרטגיה המתמקדת במניעת תקלות מצד הלקוחות עצמם. היא משתמשת בסוכן מקומי (on-device agent) שסורק את השימוש במודלי AI ומזהיר את הנהלת הארגון מפני סיכונים פוטנציאליים. לדוגמה, הסוכן יכול לאתר שמפתחים בארגון משתמשים במודל DeepSeek המפותח בסין, אשר עורר חששות בנוגע לאבטחה.
וונג מספרת: "היינו צריכים להעלות את המודעות שלהם לנושא. אמרנו להם: 'גברת CISO, האם ידעת שהמפתחים שלך משתמשים במודל DeepSeek בענף מסוים של בסיס הקוד?' זה קרה בפועל." לאחר מכן, התקיימו שיחות בנושא נוהלי האבטחה הטובים ביותר עם המפתחים המעורבים.
סריקות אוטומטיות ומניעת חשיפת סיסמאות
הסוכן המקומי של 1Password סורק גם עדכוני תוכנה וסימנים אחרים לבריאות המכשיר, ומסייע באיתור סיסמאות לא מוגנות או לא מוצפנות על הדיסק. כאשר הסוכן מאתר נתונים כאלה, הוא מעביר אותם באופן אוטומטי לכספת המוצפנת והמאובטחת של החברה. חשוב לציין כי 1Password מצפינה את כל הסיסמאות באופן מקצה לקצה, כך שאפילו החברה עצמה אינה יכולה לגשת אליהן.
וונג מוסיפה כי התוכנה של החברה תוכננה כך שגם סוכני AI לא יוכלו לראות את הסיסמאות הגלויות, גם כאשר הן ממולאות באופן אוטומטי באתר.
התמודדות עם מכשירים אישיים והתאימות
חברות יכולות להנחות את עובדיהן להתקין את סוכן האמון של המכשירים (Device Trust agent) של 1Password גם על מכשירים אישיים, ובכך לצמצם אחת מנקודות התורפה הנפוצות ביותר להתקפות. עם זאת, ההתאמה לשימוש בסוכן עשויה להיות לא אחידה, בדומה לחשבונות המשפחתיים של 1Password המוצעים כחלק מתוכניות עסקיות ונשארים לא מנוצלים לעיתים קרובות במחשבי העובדים.
מניעת תקלות של סוכני AI באמצעות ניטור שיטתי
סוכני AI יכולים לבצע משימות שגרתיות באופן אוטומטי, אך בשל אופיים הלא דטרמיניסטי, הם דורשים ניטור שיטתי כדי להבטיח שהם יישארו ממוקדים במשימתם. וונג רואה בכך "הזדמנות ירוקה" עבור 1Password ללמוד בקנה מידה רחב מהתנהגות הסוכנים. היא מסבירה: "מה היה הפרומפט? מה הסוכן עשה עם הפרומפט? האם הפלט היה תקין?"
קובצי היומן המתקבלים משמשים כמנגנון למידה עבור הסוכן והמודל, ומאפשרים להם להשתפר בהתאם. בפברואר האחרון, 1Password הודיעה על יצירת מדד חדש לבחינת התנהגות סוכני AI – המדד למדידת מודעות והבנה בביטחון (SCAM).
סיכום: AI ככלי דו-פני
AI מציב בפני עולם אבטחת המידע אתגרים חדשים, אך גם הזדמנויות לשיפור התהליכים. 1Password, באמצעות כלים מתקדמים ומודעות עצמית, מנסה לצמצם את הסיכונים תוך ניצול היתרונות של הטכנולוגיה. המטרה היא להבטיח שהלקוחות יוכלו ליהנות מהיתרונות של AI מבלי לסכן את נתוניהם הרגישים.
כתבות קשורות
תכונת המצלמה החדשה של סוני הופכת למם: האם הביקורת היא חלק מהאסטרטגיה?
Artificial intelligence has notoriously struggled with creating images, writing out gibberish on signs, or adding extra fingers to people. But it seem...
חברות טכנולוגיה טוענות שהן יכולות לאתר משתמשי סטארלינק — האם הממשל צריך לדאוג?
A handful of technology companies now claim that they can track and identify users of Starlink, the satellite internet communications service operated...
אפיפיור לו ה-14 מזהיר מפני שימוש בבינה מלאכותית במלחמה: 'ספירלה של השמדה'
Pope Leo XIV on Thursday denounced how investments in artificial intelligence and high-tech weaponry were leading the world into a “spiral of annihila...
האנציקלופדיה החדשה שכולה בינה מלאכותית: האם היא הופכת למזבלה וירטואלית?
As the preeminent internet encyclopedia, Wikipedia is known for having articles on every topic under the sun. From the commonplace to the esoteric, if...
פיגמה מעלה את מחירי התכונות מבוססות הבינה המלאכותית – מנייתה מזנקת לשיא שבעה שבועות
With its AI credit limits officially up and running, design software maker Figma has just notched another successful quarter under its belt. The compa...
ביל גרוס: חברות הבינה המלאכותית עומדות בפני לחץ לשלם ליצרני תוכן
Bill Gross has a long history of betting on technological shifts and watching those bets pay off. But the latest proposition from one of Silicon Valle...
אספה: האם עוזרת AI חדשה תוכל להחליף את העוזר האישי שלכם?
Hello again, and welcome back to Fast Company’s Plugged In. When the software engineer and entrepreneur Deon Nicholas was CEO of Forethought, a custom...
שוק המניות מתעופף, שוק האג"ח מזהיר: מי צודק בכלכלה הנוכחית?
The stock market and the bond market are telling different stories about the economy: Bonds fear doom, while stocks see boom.Why it matters: That's a...