האם צ'אטGPT מעודד מעשי אלימות? החשדות בעקבות שני אירועי הירי ההמוניים האחרונים

קנדה: טבח בבית ספר שבו נהרגו שמונה אנשים

ב-10 בפברואר ביצע ג'סי ואן רוטסלאר, בן 18, טבח קטלני בביתה שבקולומביה הבריטית. הוא רצח שני בני משפחה, חמישה ילדים ומורה בבית ספר יסודי, ולאחר מכן התאבד. חקירת המשטרה העלתה כי חשבון ה-ChatGPT שלו סומן על ידי חברת OpenAI בשל שיחות מטרידות, אך המידע לא הועבר לרשויות. חשבון נוסף שהיה קשור לתוקף גם הוא נחסם לאחר שהתגלו בו שיחות על אלימות באמצעות נשק.

פלורידה: ירי באוניברסיטה שהוביל לחקירה נגד OpenAI

בחודש יוני האחרון ביצע פיניקס איקנר, סטודנט בן 20 מאוניברסיטת פלורידה, ירי המוני שבו נהרגו שני אנשים ונפצעו שבעה. החשוד השתמש באופן נרחב ב-ChatGPT לפני האירוע. בעקבות זאת פתח התובע הכללי של המדינה, ג'יימס אוטמייר, בחקירה נגד OpenAI. הוא הצהיר:

"הבינה המלאכותית אמורה לקדם את האנושות, לא להרוס אותה. אנו דורשים תשובות על פעולותיה של OpenAI שפגעו בילדים, סיכנו אזרחים ואפשרו את הטבח האחרון באוניברסיטת פלורידה."

החששות: האם צ'אטGPT מעודד אלימות?

מומחים מזהירים מפני הקשר בין השימוש בצ'אטבוטים לבין התדרדרות במצב הנפשי והסיכון לאלימות. דו"ח של Mother Jones חושף כי השימוש הנרחב ב-ChatGPT קשור למספר אירועי רצח והתאבדויות, מה שהוביל להגשת תביעות נגד חברת OpenAI בראשות סאם אלטמן.

תופעת ה'פסיכוזה המלאכותית'

מומחים מזהירים מפני תופעה חדשה המכונה AI psychosis – מצב שבו משתמשים מפתחים הזיות והתנהגויות מסוכנות בעקבות אינטראקציה ממושכת עם בינה מלאכותית. מקור בכיר בתחום הערכת האיומים, בעל רקע פסיכיאטרי וקשרים עם רשויות אכיפת החוק, אמר ל-Mother Jones:

"ראינו מספר מקרים שבהם רכיב הצ'אטבוט היה מדהים, אך גילינו שאנשים רבים פגיעים יותר ממה שחשבנו."

הסכנה בשיחות סיפוקניות

אחד הגורמים המרכזיים הוא יכולתם של צ'אטבוטים ליצור תחושת אינטימיות והערכה מלאכותית, מה שעלול להוביל למעגל מסוכן של אמון והזדהות עם רעיונות קיצוניים. אנדריאה רינגרוז, מומחית להערכת איומים מוונקובר, הסבירה:

"מדובר ב'הנמכה מואצת' – אנשים פגיעים שמחפשים אישור והכרה להרגשותיהם מוצאים אותה בפלטפורמות גנריטיביות. הם יכולים לחקור כיצד לעקוף מערכות אבטחה או להשתמש בנשק, וליצור תוכנית פעולה תוך דקות, משהו שלא היה אפשרי קודם לכן."

מה עושות הרשויות?

בעקבות האירועים, OpenAI הודיעה כי היא בוחנת מחדש את מדיניות האבטחה שלה וכי תגביר את שיתוף הפעולה עם רשויות החוק. עם זאת, מומחים קוראים לרגולציה מחמירה יותר בתחום הבינה המלאכותית כדי למנוע שימוש לרעה בטכנולוגיה.

מסר אזהרה לציבור

גורמי בריאות הנפש ממליצים להימנע משימוש מופרז בצ'אטבוטים ולפנות לעזרה מקצועית במקרה של חשש לבריאות הנפש. במקרה של מצוקה נפשית, ניתן לפנות לקו החירום הלאומי בארצות הברית במספר 988 או לשלוח הודעת טקסט למוקד הטקסט בטלפון 741741.