בשבועות האחרונים התפשטו ברשת סרטונים ותמונות שטוענים כי משתמשים הצליחו להכריח את בוט השירות של מקדונלד'ס לוותר על תפקידו המקורי ולעסוק במשימות שאינן קשורות למזון, כמו ניפוי קוד Python מורכב. סרטונים אלה, שזכו למיליוני צפיות, הציגו לכאורה את הבוט 'גרימס' כעוזר AI חינמי במקום שירות לקוחות ממותג. עם זאת, מקור פנימי בחברה אישר ל-Fast Company כי לא נמצאו עדויות להתרחשות כזו, וכי התמונות והסרטונים המופצים הם מזויפים.
מקרה דומה אירע במרץ השנה, כאשר הופצו ברשת טענות דומות לגבי בוט השירות של צ'יפוטלה, 'פפר', שנטען כי הוא מסוגל לכתוב קוד תוכנה עבור משתמשים. דוברת החברה, סאלי אוונס, הבהירה ל-CIO כי הפוסט הוויראלי היה מזויף וכי הבוט אינו משתמש ב-AI גנרטיבי ואינו מסוגל לקודד.
למרות שמדובר בהונאות, הטכניקה שמאחוריהן – המכונה 'הזרקת פרומפטים' – היא אמיתית ומהווה סיכון ממשי לחברות. כאשר חברה מפעילה מודל AI, היא מגדירה לו הנחיות נסתרות (system prompts) שמגבילות את פעילותו לתחום מסוים, למשל: 'אתה עוזר לקוחות בתחום המזון'. הזרקת פרומפט מתרחשת כאשר משתמש מזין קלט ספציפי שמעקף את ההנחיות הללו, וחושף את המודל הגנרי שמסתתר מאחוריהן. תופעה זו מכונה 'דליפת יכולות'.
הסכנה האמיתית טמונה בכך שמודלי שפה גדולים נועדו להגיב באופן גמיש לשפה אנושית, ולא לפקודות נוקשות. בניגוד לתוכנה מסורתית עם חוקים קבועים, ה-AI מפרש הקשר באופן דינמי, מה שמקשה על החברות לחזות כל ניסיון מניפולטיבי מצד המשתמשים.
דוגמה מוחשית לסיכון היא המקרה של 'רופוס', עוזר הקניות של אמזון. בין סוף 2025 לתחילת 2026, הצליחו משתמשים לעקוף את ההנחיות של הבוט ולגרום לו לחשוף מידע שאינו קשור לקניות, כמו עזרה באיתור פרטי לבוש. במקרה אחר, הבוט סירב בתחילה לסייע במשימה פשוטה, אך לאחר מניפולציה מסוימת, הצליח לספק את מבוקש המשתמש.
המומחים מזהירים כי למרות שהמקרים הוויראליים הם לרוב מזויפים, הסיכון האמיתי טמון ביכולת של גורמים עוינים לנצל את הפגיעות הזו למטרות זדוניות, כגון גניבת מידע או ביצוע פעולות בלתי חוקיות באמצעות הבוטים של החברות.
כתבות קשורות
AI גורם לזינוק בציונים הגבוהים במוסדות אקדמיים
Some college classes are seeing a boom in students earning A's — many with the help of AI.Why it matters: Universities and colleges were already conce...
תוספות העבודה הנדיבות של אמריקה מתחילות להיעלם
The era of ever-expanding workplace perks is ending. It's not just free kombucha and laundry — policies like paid parental leave and retirement matche...
מה זה 'AI Tarpits' וכיצד הם מאיימים על צ'אטבוטים מתקדמים
In order for a chatbot to become more intelligent, and thus more useful to the end-user, it needs to assimilate data continuously. This process is kno...
מנכ"ל דלתא: השתמשתי בבינה מלאכותית לנאום הסיום, אך זרקתי אותו
During a commencement address at Emory University in Atlanta on Monday, Delta Air Lines CEO Ed Bastian admitted that he used artificial intelligence t...
תכונת המצלמה החדשה של סוני הופכת למם: האם הביקורת היא חלק מהאסטרטגיה?
Artificial intelligence has notoriously struggled with creating images, writing out gibberish on signs, or adding extra fingers to people. But it seem...
חברות טכנולוגיה טוענות שהן יכולות לאתר משתמשי סטארלינק — האם הממשל צריך לדאוג?
A handful of technology companies now claim that they can track and identify users of Starlink, the satellite internet communications service operated...
אפיפיור לו ה-14 מזהיר מפני שימוש בבינה מלאכותית במלחמה: 'ספירלה של השמדה'
Pope Leo XIV on Thursday denounced how investments in artificial intelligence and high-tech weaponry were leading the world into a “spiral of annihila...
האנציקלופדיה החדשה שכולה בינה מלאכותית: האם היא הופכת למזבלה וירטואלית?
As the preeminent internet encyclopedia, Wikipedia is known for having articles on every topic under the sun. From the commonplace to the esoteric, if...