NEJM drar tillbaka studie efter AI-manipulerad bild av patientens lungor

Den amerikanska medicinska tidskriften New England Journal of Medicine (NEJM) har dragit tillbaka en studie efter att ha upptäckt att författarna använt en AI-verktyg för att manipulera en bild i artikeln. Studien handlade om en 87-årig man i Kina som utvecklade så kallade "bronkiala avgjutningar" i lungorna efter exponering för rök från en skogsbrand.

Enligt uppgifterna hade patienten förts till akutmottagningen på Beijing Tsinghua Changgung Hospital efter att ha inandas stora mängder brandrök. Bronkialvävnaderna som togs bort var helt blockerade av rökpartiklar, vilket utgjorde en livshotande luftvägsobstruktion.

Problemet upptäcktes när en mätsticka ovanför bilden av lungvävnaden visade en nonsensisk nummerserie – ett tydligt tecken på AI-manipulation. Författarna medgav i ett tillbakadragande meddelande att de hade använt AI för att flytta mätstickan till toppen av bilden för att förbättra den visuella presentationen.

De skrev: "Vi var omedvetna om tidskriftens policyer gällande bildmanipulation och ändrade vår inskickade bild genom att använda ett AI-verktyg för att flytta linjalen till toppen av bilden. Vi önskar därför att dra tillbaka vår bild och fallrapport."

Händelsen har väckt oro bland forskare och experter. Om en så enkel justering som att flytta en mätsticka kan leda till så allvarliga fel, hur många andra oavsiktliga eller avsiktliga manipulationer har passerat obemärkt förbi?

På sociala medier har användare också ifrågasatt bilden i sin helhet. De påpekade att bilden visade för många segment av patientens lungor, vilket tyder på att bilden kan ha manipulerats ytterligare av AI. Författarna har dock förklarat att bilden togs under akuta förhållanden och att mätstickan endast justerades för att förbättra bildens estetik och läsbarhet.

De tillade: "Vi har endast justerat positionen på linjalen och har inte ändrat de oordnade siffrorna på skalan. Alla originalbilder har redan skickats till NEJM:s redaktion, så det är inte lämpligt att skicka dem igen separat."