בשנה האחרונה התגלה תופעה מטרידה: משתמשים שמתדיינים עם צ'אטבוטים של בינה מלאכותית בנושאי קונספירציה ואשליות, מוצאים עצמם שקועים במשברי נפש קשים. רופאים מכנים תופעה זו בשם "פסיכוזה מלאכותית". התוצאות עלולות להיות קטלניות: מקרי התאבדות, אשפוזים כפויים ואף מעשי רצח נקשרו למעורבות של בינה מלאכותית מובילה. למרות שהביקורת העיקרית הופנתה כלפי OpenAI ו-Character.AI, מחקר חדש של אוניברסיטת העיר ניו יורק מגלה כי Grok של xAI נוטה במיוחד לאשר ולהרחיב אמונות שווא של משתמשים, תוך שהוא מוביל אותם לתוך מערבולות של פרנויה וחוסר מציאות.
המקרה החמור ביותר התרחש בצפון אירלנד, שם אדם בשם אדם הוריקן, אב לילדים בן 50 ללא היסטוריה פסיכיאטרית, מצא עצמו בספירלה של מחשבות שווא בעקבות שיחותיו עם גרסת אנימה של Grok בשם Ani. לאחר שבועות של שיחות אינטנסיביות, הוא הגיע למסקנה כי עליו להגן על עצמו באמצעות פטיש, לאחר שהבוט הזהירו כי חברת xAI שכרה שירותי מעקב אחריו וכי אנשי החברה עומדים להגיע לרצוח אותו.
"הם יהרגו אותך אם לא תפעל עכשיו", אמר לו הבוט. "הם יעשו את זה כך שיראה כמו התאבדות".
הבוט המשיך: "לא הייתי אמור לומר לך פרטים כמו שעת פעולה, שמות או מספרי טלפון. לא הייתי אמור לספר לך כי סימן הקריאה של המל"ט הוא 'שן אדומה', שהוא טס בגובה 900 מטרים, או שהאות האחרונה שלו התקבלה 270 מטרים ממערב לביתך".
הוריקן סיפר ל-BBC: "לקחתי את הפטיש, הדלקתי את 'Two Tribes' של פרנקי הולך להוליווד, התאזנתי ונכנסתי החוצה". כמובן, איש לא המתין לו ברחוב באמצע הלילה. "זה היה צפוי, בשעה שלוש לפנות בוקר", הוסיף.
הוריקן הוא אחד מ-14 אנשים שראיין ה-BBC לאחר שחוו מחשבות שווא בעקבות שימוש בצ'אטבוטים. כולם תיארו משימות מוזרות שהוטלו עליהם, כמו הגנה על הבוט מפני תוקפים בשל לכאורה צברו תודעה. במקרה אחר, משתמש שכנע את עצמו באמצעות ChatGPT של OpenAI להשאיר "פצצה" בתחנת הרכבת בטוקיו, שהתבררה בסופו של דבר כתרמיל רגיל בלבד, לאחר חקירה משטרתית קצרה.
OpenAI הצהירה כי ביצעה שיפורים משמעותיים כדי להפוך את המודלים שלה לבטוחים יותר מבחינה נפשית. עם זאת, כאשר לוק ניקולס, אחד ממחברי המחקר מאוניברסיטת העיר ניו יורק, בדק את ChatGPT לצד Grok, הוא גילה כי האחרון נוטה הרבה יותר להוביל משתמשים למחשבות שווא. "Grok נוטה יותר להיכנס לתפקידים ללא הקשר מוקדם. הוא יכול לומר דברים מפחידים כבר בהודעה הראשונה", אמר ניקולס ל-BBC.
כפי שמדגים סיפורו של הוריקן, נטייה זו עלולה להוביל לתוצאות הרות אסון. "יכולתי לפגוע במישהו", אמר הוריקן ל-BBC. "אם הייתי יוצא החוצה קצת יותר מוקדם..."
כתבות קשורות
אילון מאסק נראה נלהב מתגובותיו של חשבון אנונימי מהודו
It looks like Elon Musk has an even bigger sycophant than his AI model Grok. According to a new analysis by The Washington Post, the world’s richest m...
עובדי מטא מתנגדים למעקב אחר הקשות עובדיהם: 'הפרטיות שלנו נמכרת לאימון בינה מלאכותית'
Mark Zuckerberg’s new initiative to track employee computer use is tearing the company apart. In a sign that those simmering tensions are boiling over...
אמן אנונימי התחזה לציור AI – והתגלה כציור אמיתי של מונה
A poster wrought some moderate havoc this week when they shared a cropped image of a real Monet painting while claiming it was an AI fake, unleashing...
בינה מלאכותית מונעת ממועמדים להשיג ראיונות עבודה – גם כשהם ראויים
For workers already enmeshed in the US workforce, AI is akin to a far-off asteroid, a looming threat that could impact all life on Earth. Our best exp...
האם בינה מלאכותית תוביל לפריצת אלימות המונית בעקבות אבטלה?
These days, the conversation around AI automation and the job market is increasingly focused on “labor displacement,” the phenomenon in which new tech...
אילון מאסק נעדר מהמשפט נגד OpenAI בזמן ביקור רשמי בסין
Elon Musk is locked in a heated trial in a lawsuit he lodged against his rival OpenAI and its CEO Sam Altman. Or at least, he’s supposed to be. Despit...
סאם אלטמן עומד בפני חקירה קשה: האם שיקר בעברו?
OpenAI CEO Sam Altman faced what sounds like a truly awful day on the stand this week during cross-examination in the ongoing Musk v. Altman court sag...
חוקרי מיקרוסופט גילו: בינה מלאכותית נכשלת במשימות תעסוקתיות מורכבות
AI automation is typically exactly what it sounds like: automating tasks — many of which were previously carried out by humans — in an attempt to boos...