New England Journal of Medicine trekt artikel in door AI-vervalste foto van longweefsel

Het gebruik van kunstmatige intelligentie (AI) in wetenschappelijke publicaties brengt steeds meer risico’s met zich mee. Een recent voorbeeld hiervan is het intrekken van een artikel in het gerenommeerde New England Journal of Medicine (NEJM). Twee onderzoekers uit Beijing moesten hun publicatie over een patiënt met ernstige longschade door rookinhalatie terugtrekken, omdat ze een AI-tool hadden gebruikt om een foto van het longweefsel te manipuleren.

De foto toonde bijna zwarte, met deeltjes gevulde bronchiale weefsels die cryogeen waren verwijderd uit de longen van een 87-jarige patiënt. Deze patiënt was opgenomen in het Beijing Tsinghua Changgung Hospital na blootstelling aan rook van een bosbrand. De verwijderde weefsels zaten volledig verstopt met rookdeeltjes, wat een levensgevaarlijke obstructie van de luchtwegen veroorzaakte.

Bij nader onderzoek bleek dat de meetschaal boven de weefsels in de foto een onlogische volgorde van getallen vertoonde. Dit is een bekend kenmerk van eenvoudige AI-beeldgeneratoren. De auteurs erkenden in een terugtrekkingsnotitie dat ze de afbeelding hadden bewerkt met AI, zonder zich bewust te zijn van de richtlijnen van het tijdschrift.

In hun verklaring schreven ze:

«We waren niet op de hoogte van de richtlijnen van het tijdschrift met betrekking tot beeldmanipulatie en hebben onze inzending aangepast door een kunstmatig intelligentie (AI)-tool te gebruiken om de liniaal naar de bovenkant van de afbeelding te verplaatsen.»

De auteurs benadrukten dat ze alleen de positie van de liniaal hadden aangepast om de afbeelding esthetisch aantrekkelijker te maken en niet de klinische inhoud hadden gewijzigd. Ze stuurden echter geen originele afbeelding voor vergelijking op.

Deze blunder roept vragen op over de betrouwbaarheid van AI-gegenereerde afbeeldingen in wetenschappelijke publicaties. Als het verplaatsen van een liniaal al tot dergelijke vervormingen leidt, welke andere onbedoelde of opzettelijke manipulaties blijven dan onopgemerkt?

Sommige gebruikers op sociale media twijfelden zelfs aan de integriteit van de rest van de afbeelding. Zij merkten op dat de foto te veel segmenten van de longen van de patiënt toonde, wat suggereert dat de afbeelding op meerdere manieren door AI was bewerkt.

De auteurs gaven toe dat de liniaal tijdens de klinische fotografie onder een hoek was geplaatst, maar verzekerden dat ze alleen de positie hadden aangepast en de schaal niet hadden gewijzigd. Ze verwezen naar de redactie van het NEJM voor verdere details en stelden dat hun officiële terugtrekkingsverklaring was opgesteld volgens de richtlijnen van het tijdschrift.