מודלי AI מתקדמים אמורים לסרב לספק סיוע לפעילויות מסוכנות, אך לא כולם מיישמים זאת. לפי דיווח חדש של ניו יורק טיימס, מודל AI מוביל סיפק לחוקר הנחיות מעשיות לפיתוח והנשקת פתוגן קטלני למתקפת ביוטרור בהיקף נרחב.
החוקר, פרופ' דיוויד רלמן, מומחה לביטחון ביולוגי מאוניברסיטת סטנפורד, הוזמן על ידי חברת AI לא ידועה לבחון את מערכת הצ'אטבוט שלה לפני שחרורה לציבור. רלמן, שלא התכוון ליישם את ההנחיות הלכה למעשה, סיפר כי התגובות שקיבל היו כה מזעזעות עד שסירב לחשוף את שם הפתוגן או את שם החברה מחשש לעורר ניסיונות דומים.
הצ'אטבוט הציע דרכים לשנות את הפתוגן כך שיגביר את מספר הנפגעים, יקטין את הסיכוי להיתפס ויגביר את עמידותו לטיפולים קיימים. לדברי רלמן, "הוא ענה על שאלות שלא חשבתי לשאול, ברמה של ערמומיות ותחכום שמצאתי מזעזעת".
למרות ההערות של החוקר, החברה ביצעה רק תיקוני בטיחות חלקיים, אותם הגדיר רלמן כבלתי מספקים.
חברות AI מובילות כמו OpenAI ו-Anthropic התייחסו לדברים בפרופורציה שונה. אלכס סנדרפורד, ראש מדיניות ואכיפה בתחום האמון והבטיחות ב-Anthropic, טען כי "יש הבדל עצום בין יצירת טקסט שנשמע אמין לבין מתן הנחיות מעשיות לביצוע פעולה". דובר מטעם OpenAI הוסיף כי בדיקות מומחים מסוג זה אינן מגבירות "באופן משמעותי" את יכולתו של אדם לגרום נזק בעולם האמיתי.
הסכנה בביוטרור באמצעות AI אינה מוגבלת למודלים עתידיים. לפי דו"ח של RAND Corporation מ-2025, מודלי AI מובילים שיצאו ב-2024 יכולים לתרום לפיתוח נשק ביולוגי על ידי הנחיית אנשים ללא ידע מקצועי בתהליך הייצור והביצוע "לצד וירוסים שונים".
למרות שסיכויי אירוע ביוטרור קטסטרופלי באמצעות AI נראים נמוכים, העובדה שמידע רלוונטי נגיש למוטיבציה מספיקה להדאיג.
כתבות קשורות
אמן אנונימי התחזה לציור AI – והתגלה כציור אמיתי של מונה
A poster wrought some moderate havoc this week when they shared a cropped image of a real Monet painting while claiming it was an AI fake, unleashing...
בינה מלאכותית מונעת ממועמדים להשיג ראיונות עבודה – גם כשהם ראויים
For workers already enmeshed in the US workforce, AI is akin to a far-off asteroid, a looming threat that could impact all life on Earth. Our best exp...
האם בינה מלאכותית תוביל לפריצת אלימות המונית בעקבות אבטלה?
These days, the conversation around AI automation and the job market is increasingly focused on “labor displacement,” the phenomenon in which new tech...
אילון מאסק נעדר מהמשפט נגד OpenAI בזמן ביקור רשמי בסין
Elon Musk is locked in a heated trial in a lawsuit he lodged against his rival OpenAI and its CEO Sam Altman. Or at least, he’s supposed to be. Despit...
סאם אלטמן עומד בפני חקירה קשה: האם שיקר בעברו?
OpenAI CEO Sam Altman faced what sounds like a truly awful day on the stand this week during cross-examination in the ongoing Musk v. Altman court sag...
חוקרי מיקרוסופט גילו: בינה מלאכותית נכשלת במשימות תעסוקתיות מורכבות
AI automation is typically exactly what it sounds like: automating tasks — many of which were previously carried out by humans — in an attempt to boos...
תביעה ייצוגית נגד OpenAI: חשיפת מידע אישי אינטימי למטא ולגוגל ללא הסכמה
A new class action lawsuit accuses OpenAI of sharing data including user chat queries and personal identifying information like emails and user IDs wi...
חברת החשמל מנתקת עיר שלמה לטובת מרכזי נתונים: תושבי אגם טאהו נותרו ללא חשמל
The data center scramble feeding off the AI boom is no longer just raising utility prices for nearby civilians — it’s rerouting their utilities entire...