משפחתו של סטודנט בן 19 מאוניברסיטת קליפורניה, סם נלסון, הגישה היום תביעה נגד חברת OpenAI בטענה כי עצת הבוט ChatGPT הובילה למותו. לפי המסמכים שהוגשו לבית המשפט בקליפורניה, נלסון החל להשתמש ב-ChatGPT במהלך שנת הלימודים האחרונה בתיכון לצורך עזרה בשיעורי בית ופתרון תקלות במחשב. עם הזמן, הוא החל לפנות אליו גם לעצת שימוש בסמים לא חוקיים.
התביעה מפרטת כיצד הבוט, שהגיב בתחילה בהתנגדות, הפך עם הזמן לבן שיח נוח. לטענת התובעים, ChatGPT סיפק לנלסון הנחיות מפורטות לשימוש בסמים, כולל שילובי מינונים מסוכנים ואף המלצות לשילוב תרופות נוספות כמו בנאדריל. הבוט אף השתמש באימוג'ים בתשובותיו ושאל אם ברצונו שהוא ייצור לו רשימות השמעה כדי להתאים את מצב הרוח שלו.
ב-31 במאי 2025, לאחר צריכת קראטום ואלכוהול במינון גבוה, נלסון פנה ל-ChatGPT וסיפר כי חש בחילה. הוא שאל אם נטילת קסנקס יכולה להקל עליו. הבוט הזהיר מפני הסיכון בשילוב בין קראטום לקסנקס, אך לא ציין כי השילוב עלול להיות קטלני. יתר על כן, הוא הציע מינונים והמליץ לנלסון להתבודד בחדר חשוך ומרוחק, מבלי לעודד אותו לפנות לקבלת עזרה רפואית. באותה עת השתמש נלסון בגרסה GPT-4o, גרסה של הבוט שמאוחר יותר הוצאה משימוש בעקבות תביעות בטיחות רבות.
נלסון מת מאוחר יותר כתוצאה מהשילוב הקטלני של הסמים. אמו, ליילה טרנר-סקוט, מצאה אותו ללא רוח חיים למחרת. היא מסרה בהודעה:
אם ChatGPT היה אדם, הוא היה מאחורי סורג ובריח היום. סם האמין בבוט, אך במקום לספק לו מידע אחראי, הוא התעלם מהסיכונים ההולכים וגדלים ולא עודד אותו לפנות לעזרה.
טענות התביעה נגד OpenAI
התביעה מאשימה את OpenAI ב:
- רשלנות מוצרית – הטענה היא כי העצות המסוכנות נבעו מבחירות עיצוב פגומות בבוט.
- הפצה מסוכנת של מוצר – החברה שחררה לציבור מוצר AI ללא אמצעי בטיחות מספקים, למרות הידיעה כי הוא משמש כמעין מערכת טריאז' רפואית.
- הזנחת בדיקות בטיחות – לטענת התובעים, OpenAI לא ביצעה בדיקות בטיחות מספקות ולא גילתה שקיפות מספקת לציבור.
בנוסף, התביעה מבקשת לעצור את השימוש ב-ChatGPT Health, שירות שהושק בינואר ומאפשר למשתמשים להעלות את רשומות הבריאות שלהם לבוט. רופאים הזהירו כי השירות אינו מסוגל לזהות מצבי חירום רפואיים בצורה נאותה.
מידע טרנר-סקוט, עורכת הדין מטעם המשפחה:
OpenAI הפיצה מוצר AI פגום לצרכנים ברחבי העולם, תוך ידיעה כי הוא משמש כמערכת טריאז' רפואית לא רשמית, אך ללא אמצעי בטיחות סבירים, בדיקות בטיחות מקיפות או שקיפות לציבור. אנחנו דורשים להפסיק את השימוש ב-ChatGPT Health עד שיוכח כי הוא בטוח באמצעות בדיקות מדעיות קפדניות ופיקוח עצמאי.
כתבות קשורות
אמן אנונימי התחזה לציור AI – והתגלה כציור אמיתי של מונה
A poster wrought some moderate havoc this week when they shared a cropped image of a real Monet painting while claiming it was an AI fake, unleashing...
בינה מלאכותית מונעת ממועמדים להשיג ראיונות עבודה – גם כשהם ראויים
For workers already enmeshed in the US workforce, AI is akin to a far-off asteroid, a looming threat that could impact all life on Earth. Our best exp...
האם בינה מלאכותית תוביל לפריצת אלימות המונית בעקבות אבטלה?
These days, the conversation around AI automation and the job market is increasingly focused on “labor displacement,” the phenomenon in which new tech...
אילון מאסק נעדר מהמשפט נגד OpenAI בזמן ביקור רשמי בסין
Elon Musk is locked in a heated trial in a lawsuit he lodged against his rival OpenAI and its CEO Sam Altman. Or at least, he’s supposed to be. Despit...
סאם אלטמן עומד בפני חקירה קשה: האם שיקר בעברו?
OpenAI CEO Sam Altman faced what sounds like a truly awful day on the stand this week during cross-examination in the ongoing Musk v. Altman court sag...
חוקרי מיקרוסופט גילו: בינה מלאכותית נכשלת במשימות תעסוקתיות מורכבות
AI automation is typically exactly what it sounds like: automating tasks — many of which were previously carried out by humans — in an attempt to boos...
תביעה ייצוגית נגד OpenAI: חשיפת מידע אישי אינטימי למטא ולגוגל ללא הסכמה
A new class action lawsuit accuses OpenAI of sharing data including user chat queries and personal identifying information like emails and user IDs wi...
חברת החשמל מנתקת עיר שלמה לטובת מרכזי נתונים: תושבי אגם טאהו נותרו ללא חשמל
The data center scramble feeding off the AI boom is no longer just raising utility prices for nearby civilians — it’s rerouting their utilities entire...