מנכ"ל OpenAI מתנצל על כשל במעקב אחר חשבון ChatGPT שקשור לטבח בטומבלר רידג'

טבח בטומבלר רידג': OpenAI מודה באחריותה הכושלת

בפברואר האחרון ביצעה ג'סי ואן רוטסלאר, בת 18, טבח קטלני בטומבלר רידג', קולומביה הבריטית. היא רצחה שמונה בני אדם, בהם עצמה, ופצעה עשרות נוספים. הטבח החל בביתה והמשיך בבית הספר התיכון המקומי.

חקירת המשטרה גילתה כי חשבון ה-ChatGPT של התוקפת נחסם על ידי צוות OpenAI עוד חודשים רבים לפני האירוע, לאחר שהיא תיארה בו תרחישים של אלימות באמצעות נשק. למרות זאת, החברה לא דיווחה לרשויות, מה שעורר שאלות מוסריות קשות על תפקידה של הטכנולוגיה המודרנית בהקלה על התנהגויות מסוכנות.

התנצלותו של סם אלטמן

סם אלטמן, מנכ"ל OpenAI, פרסם מכתב התנצלות קשה לקהילת טומבלר רידג', בו הודה בכשל החמור של החברה:

"אני מתנצל עמוקות על כך שלא דיווחנו לרשויות על החשבון שנחסם ביוני. אני יודע שדברים אינם מספיקים, אך אני מאמין כי התנצלות היא הכרחית כדי להכיר בנזק הבלתי הפיך שנגרם לקהילה שלכם."

"אני מביע את תנחומי העמוקים ביותר למשפחות ולכל הקהילה. אף אחד לא צריך לעבור טרגדיה כזו. אינני יכול לדמיין דבר גרוע יותר מאובדן ילד."

ראש ממשלת קולומביה הבריטית, דייוויד אבי, הגיב בחריפות למכתב ההתנצלות:

"התנצלות היא הכרחית, אך היא אינה מספקת לנזק שנגרם למשפחות בטומבלר רידג'."

שינויים בחברת OpenAI בעקבות הטרגדיה

לאחר האירוע הודיעה OpenAI על שינויים במדיניות שלה, כולל:

• שילוב מומחי בריאות הנפש וההתנהגות בהערכת מקרים מסוכנים.
• הרחבת קריטריוני ההפניה לדיווח לרשויות, גם כאשר לא מתוארים פרטים ספציפיים של אלימות מתוכננת.
• התחייבות לדווח לרשויות במקרים דומים בעתיד, תוך שימוש בפרוטוקולים מחודשים.

אלטמן הבטיח גם כי החברה תפעל יחד עם ממשלות בכל הרמות כדי למנוע אסונות דומים בעתיד.

מקרי אלימות נוספים הקשורים ל-ChatGPT

הטבח בטומבלר רידג' אינו המקרה היחיד בו מעורב ChatGPT במעשי אלימות. עשרה חודשים קודם לכן, סטודנט מאוניברסיטת פלורידה, פיניקס איקנר, רצח שני אנשים ופצע שבעה נוספים בקמפוס האוניברסיטה. תמלילי השיחות שלו עם הצ'אטבוט חשפו תכנונים מפורטים לביצוע הטבח.

החששות גוברים סביב השימוש בבינה מלאכותית ככלי להקלה על התנהגויות אלימות, ומעלים שאלות על אחריותן של חברות הטכנולוגיה במניעת פשעים קשים.