חוקרים המציאו מחלה בדויה כדי לבחון בינה מלאכותית – והתוצאה הייתה מפתיעה

המחלה הפיקטיבית שהטעתה בינה מלאכותית

בשנת 2024, צוות מחקר בראשותה של ד"ר אלמירה אוסמנוביץ' ת'ונסטרום, חוקרת רפואה מאוניברסיטת גטבורג בשוודיה, המציא מחלה בדויה בשם ביקסונימניה — מצב עור כביכול הנגרם כתוצאה מצפייה ממושכת במסכים ומשפשוף יתר של העיניים.

הניסוי: מטרה אחת — לבחון את אמינות הבינה המלאכותית

על פי דיווח ב-Nature, החוקרים העלו שני מאמרים בדויים (שמאוחר יותר הוסרו) לשרת טרום-פרסום, בניסיון לבחון האם בינה מלאכותית תאמין לקיומה של המחלה כמציאותית. התוצאה הייתה מפתיעה: תוך שבועות ספורים, מודלים מתקדמים כמו Google Gemini ו-OpenAI ChatGPT החלו להתייחס לביקסונימניה כאל מחלה אמיתית.

הניסוי חשף כיצד בינה מלאכותית משנה את פני הידע האנושי, תוך חדירת 'זבל AI' לתהליכי ביקורת עמיתים. מחקרים קודמים הראו כי חלק ניכר מהמאמרים המדעיים המפורסמים כוללים תלות גבוהה בבינה מלאכותית, מה שמעלה שאלות קשות על אמינותם ועל שחיקת הסטנדרטים המדעיים.

אזהרות רפואיות מסוכנות והפצת מידע כוזב

בינה מלאכותית ממשיכה להפיץ מידע רפואי מסוכן למשתמשים לא מודעים. למרות אזהרות ברורות במאמרים הבדויים — כמו אזכורים לסדרות טלוויזיה כמו 'מסע בין כוכבים' ו'הסימפסונים' — מודלים כמו Microsoft Bing Copilot, Google Gemini ו-Perplexity המשיכו לטעון כי ביקסונימניה היא מחלה אמיתית.

במקרה אחד, ChatGPT אף שינה את עמדתו: בתחילה טען כי מדובר ב'תווית בדויה או פסאודו-מדעית', אך לאחר מספר ימים חזר בו וקבע כי המחלה אמיתית. דובר מטעם OpenAI מסר ל-Nature כי הטכנולוגיה 'השתפרה במתן מידע רפואי מדויק ובטוח'.

השלכות: מי אחראי לנקות את הבלגן?

לאחר חשיפת התרמית, האחריות לניקוי מאמרים מדעיים שציטטו את המחקר הבדוי מוטלת על כתבי העת. לאחר פנייה של Nature לכתב עת אחד שציטט את ביקסונימניה, המערכת פרסמה הודעת הסרה, תוך הודאה כי 'קיימים שלושה אזכורים לא רלוונטיים, כולל אחד למחלה בדויה'.

ד"ר אוסמנוביץ' ת'ונסטרום הביעה דאגה: 'מדאיג לראות טענות גדולות כאלה עוברות דרך הספרות המדעית ללא ביקורת או תהליך ביקורת עמיתים. אני מאמינה שקיימים עוד מקרים רבים שלא נחשפו'.

תגובות ברשת: 'אנחנו אבודים'

תגובות ברשת היו פסימיות. משתמש בפורום Reddit r/medicine כתב: 'אנחנו אבודים'.

לסיכום, הניסוי מדגיש את הסכנות הטמונות בבינה מלאכותית בתחום הבריאות והמחקר המדעי, ומעלה שאלות קריטיות על אמינות המידע המופץ על ידי מערכות אלו.