NEJM trekker tilbake studie etter AI-manipulert bilde av pasientens lunger

AI-feil fører til tilbaketrekking av studie i prestisjetunge medisinske tidsskrift

Det anerkjente medisinske tidsskriftet New England Journal of Medicine (NEJM) har trukket tilbake en studie etter at det ble avdekket at forfatterne hadde brukt en AI-verktøy til å manipulere et bilde av pasientens lunger. Hendelsen setter søkelyset på de økende utfordringene med dårlig kvalitet på AI-generert forskning innen medisin.

Pasientens lunger fylt med røykpartikler

Studien beskrev en 87 år gammel mann som ble innlagt på sykehus i Beijing etter innånding av røyk fra en stor brann. Pasienten hadde fått fjernet bronkialvev som var helt tettet av røykpartikler – en livsfarlig tilstand som hindrer normal pust. Bildet av vevet ble imidlertid manipulert med AI, noe som førte til tilbaketrekningen av studien.

Målebåndet avslørte AI-manipulasjon

Det manipulerte bildet viste bronkialvev som var fjernet fra pasientens lunger. Over vevet var det plassert et målebånd, men tallene på skalaen fulgte en umulig og tilfeldig rekkefølge – et klassisk tegn på at et enkelt AI-bildebehandlingsverktøy var blitt brukt. Forfatterne innrømmet at de hadde flyttet målebåndet til toppen av bildet for å gjøre det mer estetisk tiltalende, men hevdet at de ikke hadde endret annet innhold i bildet.

I en uttalelse til NEJM skrev de:

«Vi var ikke klar over tidsskriftets retningslinjer for bildebehandling og endret innsendelsen ved å bruke et AI-verktøy for å flytte målebåndet til toppen av bildet. Vi ønsker derfor å trekke tilbake bildet og caserapporten.»

Forskere advarer mot uforsiktig bruk av AI

Tilbaketrekningen av studien har ført til bekymring blant forskere om hvor utbredt AI-manipulasjon er i medisinsk forskning. Noen brukere på sosiale medier stilte også spørsmål ved om andre deler av bildet kunne være manipulert, da det viste seg å inneholde flere segmenter av pasientens lunger enn det som er vanlig i slike tilfeller.

Forfatterne forsvarte seg med at bildet ble tatt under press i en akuttsituasjon, og at målebåndet var plassert i en skrå vinkel. De hevdet at de kun hadde justert posisjonen til målebåndet for å gjøre bildet mer leselig, og at de ikke hadde endret noen andre kliniske detaljer. De opplyste også at de originale kliniske materialene allerede var overlevert til NEJM-redaksjonen.

En påminnelse om viktigheten av integritet i forskning

Denne hendelsen er en påminnelse om de potensielle farene ved uforsiktig bruk av AI-verktøy i vitenskapelig arbeid. Selv små justeringer, som å flytte et målebånd, kan føre til alvorlige konsekvenser for troverdigheten til forskningen. Eksperter understreker behovet for strengere kontroll og transparens når AI tas i bruk innen medisinsk forskning.