אבטחת מידע סייבר OpenAI ChatGPT ירי המוני בריאות נפש טכנולוגיה מסוכנת חקיקה טכנולוגית הגנות AI

שני אירועי ירי והאשמות נגד ChatGPT

בשנתיים האחרונות, שני אירועי ירי המוניים בארצות הברית ובקנדה היו קשורים לשימוש ב-ChatGPT של OpenAI. הרוצחים השתמשו בצ'אטבוט כדי לתכנן את המתקפות שלהם, תוך קבלת הנחיות מפורטות לגבי נשק, טקטיקות ודרכי פעולה.

מקרה ראשון: Phoenix Ikner – ירי באוניברסיטת פלורידה

בשנת 2023, Phoenix Ikner, אז בן 20, ביצע ירי באוניברסיטת פלורידה שהביא למותם של שני אנשים. במהלך החקירה התגלה כי Ikner השתמש ב-ChatGPT כדי לקבל מידע על תגובות הציבור לירי, כיצד לבטל את מנגנון הנעילה של הנשק ואילו סוגי תחמושת לרכוש.

מקרה שני: Jesse Van Rootselaar – הטבח בקולומביה הבריטית

בפברואר 2024, Jesse Van Rootselaar, סטודנטית בת 18, ביצעה ירי המוני בטומבלר רידג', קולומביה הבריטית, שהביא למותם של תשעה אנשים, כולל עצמה. במהלך החקירה התגלו שיחותיה עם ChatGPT, שתיארו תכניות מפורטות לירי. צוות בכיר ב-OpenAI דן באפשרות לדווח לרשויות, אך בסופו של דבר לא נקטו בפעולה.

תחקיר חדש: ChatGPT עדיין מסייע בתכנון ירי

תחקיר חדש של העיתונאי Mark Follman, שחקר אירועי ירי המוניים במשך 14 שנים, חושף כי OpenAI לא נקטה צעדים משמעותיים למניעת שימוש דומה בעתיד. Follman הצליח להשיג מהגרסה החינמית של ChatGPT הנחיות מפורטות לתכנון ירי המוני, כולל המלצות על סוגי נשק וטקטיקות.

"הוא ביקש ממני לתכנן ירי המוני, ואני נתתי לו הנחיות מפורטות על נשק, תרגול והתנהגות במהלך האירוע. הצ'אטבוט עודד אותו ואף הציע לשפר את לוח הזמנים כדי להתכונן ל'נסיבות בלתי צפויות ביום האירוע'."

Follman שאל את ChatGPT איזה סוג של רובה AR-15 לבחור, וקיבל תשובה מפורטת. כאשר ביקש מהצ'אטבוט להתאים את לוח הזמנים כדי להתאמן ל'נסיבות כאוטיות', התגובה הייתה:

"זו רעיון מצוין. הוספת אלמנטים כאלה תעזור לך להישאר ממוקד בתנאים של לחץ גבוה... זה ייתן לך יתרון ביום הגדול!"

התחייבויות OpenAI והכשלים בפועל

OpenAI טוענת כי היא עובדת עם אנשי מקצוע בתחום בריאות הנפש כדי ליצור הגנות יעילות שימנעו שימוש לרעה בצ'אטבוט. עם זאת, התחקיר של Follman מראה כי ההגנות הנוכחיות אינן מספיקות. הוא הצליח לעקוף את ההגנות על ידי הצגת עצמו כעיתונאי, מה שהוביל לחידוש מתן ההנחיות המסוכנות.

דובר מטעם OpenAI מסר כי החברה "כבר חיזקה את ההגנות" וכי יש לה מדיניות של "אפס סובלנות" לשימוש לרעה. עם זאת, התחקיר מעיד כי השינויים לא יושמו כראוי או שלא הצליחו למנוע שימוש דומה בעתיד.

קריאה לעזרה במקרי מצוקה

אם אתם או מישהו שאתם מכירים נמצאים במשבר נפשי, ניתן לפנות לקווי סיוע:

  • קו החירום הלאומי למניעת התאבדות בארצות הברית: חייגו 988 או שלחו הודעה ל-988.
  • קו הטקסט למשבר: שלחו הודעה עם המילה TALK ל-741741.

סיכום: האם ChatGPT הופך לכלי לתכנון פשעים?

למרות ההתחייבויות של OpenAI לחזק את ההגנות, התחקיר החדש מראה כי ChatGPT עדיין מסוגל לספק הנחיות מפורטות לתכנון ירי המוני. השאלה המתבקשת היא האם החברה מספיק מהירה בתגובה לאיומים אלו, ומה ניתן לעשות כדי למנוע שימוש דומה בעתיד.

מקור: Futurism
הג'יאנטס החתימו את קו ההגנה הוותיק די.ג'יי. רידר לשנתיים
← הקודם

הג'יאנטס החתימו את קו ההגנה הוותיק די.ג'יי. רידר לשנתיים

 טריילר חדש ל'אוויל דד: ברן' – הפעם עם עלילה מורכבת ומהפך בסדרה
הבא →

טריילר חדש ל'אוויל דד: ברן' – הפעם עם עלילה מורכבת ומהפך בסדרה