כתב העת הרפואי היוקרתי 'New England Journal of Medicine' מושך מאמר לאחר זיוף תמונה על ידי AI

כתב עת רפואי מוביל מושך מאמר לאחר זיוף תמונה על ידי AI

כתב העת הרפואי היוקרתי New England Journal of Medicine (NEJM) נאלץ למשוך מאמר שפורסם לאחר שהתגלה כי החוקרים השתמשו בכלי בינה מלאכותית כדי לשנות תמונה רפואית שהוצגה בו. המקרה מעלה חששות לגבי השימוש הגובר ב-AI במחקר רפואי ומחדד את הסכנות הטמונות בו.

תיאור המקרה

המאמר, שפורסם על ידי שני חוקרים מבייג'ינג, תיאר מקרה של מטופל בן 87 שאושפז בבית החולים Beijing Tsinghua Changgung Hospital לאחר חשיפה לעשן כבד ממתקפת שריפות. במהלך הטיפול, הוצאו רקמות סימפוניות מהריאות של המטופל, אשר היו סתומות לחלוטין בחלקיקי עשן – מצב מסכן חיים.

בתמונה שפורסמה במאמר נראו הרקמות השחורות והמלאות בחלקיקים, לצד סרגל מדידה שהונח מעליהן. אלא שסרגל המדידה הציג רצף מספרים לא הגיוני, המאפיין שימוש בכלי AI פשוט להזזת האובייקט בתמונה. החוקרים הודו בטעותם וציינו כי השתמשו ב-AI להזזת הסרגל לצורך שיפור האסתטיקה של התמונה, ללא שינוי בתוכן הרפואי עצמו.

תגובת החוקרים וההשלכות

בחקירה נוספת שהתנהלה בעקבות תלונות ברשתות החברתיות, עלו חששות נוספים לגבי תקפות התמונה כולה. משתמשים ציינו כי נראו בה יותר מדי קטעים של ריאות המטופל המבוגר, מה שעשוי להעיד על מניפולציות נוספות שביצע ה-AI. החוקרים הגיבו כי הסרגל הונח בזווית נטויה במהלך הצילום הרפואי הדחוף, וכי הם רק הזיזו אותו כדי לשפר את הקריאות של התמונה. הם הבהירו כי לא נעשו שינויים נוספים בתוכן הרפואי המקורי.

למרות ההסברים, כתב העת החליט למשוך את המאמר בשל הפרת מדיניות העריכה והטעויות שנחשפו. החוקרים הביעו חרטה על הטעות והדגישו כי לא הייתה כוונה לזייף את התמונה, אלא מדובר בטעות מקצועית שנבעה מחוסר מודעות למדיניות כתב העת בנושא מניפולציות בתמונות.

הסכנות בשימוש ב-AI במחקר רפואי

מקרה זה מצטרף לרשימה הולכת וגדלה של מאמרים רפואיים שנחשפו כמזויפים או מטופלים באמצעות AI. חוקרים ומוציאים לאור מתריעים מפני הסכנות הטמונות בשימוש לא מבוקר בכלי בינה מלאכותית במחקר מדעי, אשר עלול לפגוע באמינותם של ממצאים רפואיים חיוניים.

אם הזזת סרגל באמצעות AI יכולה להוביל לזיוף כה בולט, מה עוד עלול לחמוק מבלי להתגלות?

קריאות להחמרה בפיקוח

התקרית מעלה שאלות קשות לגבי רמת הפיקוח הנדרשת על שימוש ב-AI במחקר רפואי. חוקרים ומוציאים לאור נקראים להחמיר את המדיניות בנושא מניפולציות בתמונות ובנתונים, וכן לפתח כלים לזיהוי זיופים באמצעות AI. כמו כן, נדרשת מודעות רבה יותר בקרב חוקרים לגבי הסיכונים הכרוכים בשימוש בכלי AI ללא פיקוח מתאים.

השלכות על אמינות המחקר הרפואי

אמינות המחקר הרפואי היא קריטית להצלת חיים ולפיתוח טיפולים חדשים. כאשר מאמרים מזויפים או מטופלים באמצעות AI חודרים לכתבי עת מובילים, הדבר עלול לפגוע באמון הציבור במדע ובממצאים הרפואיים. כתבי עת רפואיים נאלצים כעת להתמודד עם אתגר חדש: כיצד להבטיח את שלמות המחקר בעידן ה-AI?

סיכום

מקרה זה של כתב העת NEJM מדגיש את הסכנות הטמונות בשימוש ב-AI במחקר רפואי. למרות שהחוקרים טענו כי הטעות הייתה מקרית, היא מעלה שאלות קשות לגבי רמת הפיקוח הנדרשת והצורך בהחמרה במדיניות העריכה. בעידן שבו AI הופך לכלי נפוץ יותר ויותר, חשוב להבטיח כי המחקר הרפואי יישאר אמין ומבוסס על עובדות מדויקות.