NEJM trækker studie tilbage efter AI-manipuleret billede af patientens lunger

AI-fejl får NEJM til at trække studie tilbage

Det prestigefyldte medicinske tidsskrift New England Journal of Medicine (NEJM) har trukket et studie tilbage efter at have opdaget, at forfatterne havde brugt en AI-værktøj til at manipulere et billede i artiklen. Studien handlede om en 87-årig mand, der udviklede alvorlige lungeskader efter indånding af røg fra en vildbrand i Kina.

AI-manipulation afdækket i kritisk studie

Artiklen beskrev, hvordan patienten havde fået fjernet bronkialvæv, der var helt tilstoppet med røgpartikler – en livsfarlig tilstand. Men det billede, der blev offentliggjort, viste sig at være manipuleret med AI. Et målestokke, der skulle vise størrelsen af det fjernede væv, havde en umulig talrækkefølge, hvilket er et tydeligt tegn på AI-genereret manipulation.

Forfatterne indrømmede i en tilbagetrækningsmeddelelse, at de havde brugt AI til at flytte målestokken til toppen af billedet for at gøre det mere overskueligt. De skrev:

"Vi var ikke bekendt med tidsskriftets retningslinjer for billedmanipulation og havde ændret vores indsendelse ved at bruge et AI-værktøj til at flytte målestokken til toppen af billedet."

Frygt for udbredt AI-misbrug i forskningen

Hændelsen rejser alvorlige spørgsmål om, hvorvidt AI-værktøjer bliver brugt ukritisk i medicinsk forskning. Eksperter frygter, at sådanne fejl kan underminere tilliden til videnskabelige resultater, især når det drejer sig om livsvigtig forskning.

Nogle brugere på sociale medier påpegede desuden, at billedet muligvis var blevet manipuleret på andre måder. De bemærkede, at der så ud til at være for mange segmenter af patientens lunger i billedet, hvilket kunne tyde på yderligere AI-manipulation.

Forfatterne fastholder, at kun målestokken blev flyttet

Forfatterne har givet en mere detaljeret forklaring på fejlen, men nægtede at sende det originale billede til sammenligning. De hævdede, at målestokken blot var blevet flyttet for at gøre billedet mere overskueligt, og at der ikke var blevet manipuleret med selve det kliniske indhold. De skrev:

"Vi justerede kun positionen af målestokken og modificerede ikke de rodede tal på nogen måde."

Patienten var i kritisk tilstand under optagelsen af billedet, og målestokken var placeret i en skæv vinkel. Forfatterne understregede, at alle originale kliniske materialer allerede var blevet sendt til NEJM’s redaktion, og at de derfor ikke kunne sende dem igen.

Hvad betyder dette for fremtidens forskning?

Denne hændelse er blot ét eksempel på de stigende problemer med AI-genereret forskning. Medicinske tidsskrifter oplever en bølge af lavkvalitetsstudier, der er blevet genereret eller manipuleret med AI, hvilket truer troværdigheden af den videnskabelige litteratur. Eksperter opfordrer til strengere kontrol og transparens for at undgå lignende fejl i fremtiden.