AI-gegenereerde wetenschappelijke papers bedreigen de integriteit van onderzoek

Een onverwacht probleem houdt de wetenschappelijke gemeenschap bezig. Peter Degen, een postdoctoraal onderzoeker, kreeg vorige zomer een vreemde vraag van zijn begeleider: één van diens papers werd plotseling te vaak geciteerd. Citaties zijn de basis van academische erkenning, maar deze keer was er iets bijzonders aan de hand.

Het betrof een paper uit 2017 waarin de nauwkeurigheid van een specifieke statistische analysemethode op epidemiologische data werd onderzocht. Jarenlang werd het werk slechts enkele tientallen keren geciteerd. Nu, echter, verschijnt de paper elke paar dagen in nieuwe studies – soms wel honderden keren per dag. Daardoor staat het werk plotseling in de top van de meest geciteerde publicaties van de onderzoeker.

Terwijl een andere wetenschapper hier waarschijnlijk enthousiast over zou zijn, was de reactie van Degens begeleider anders: ‘Onderzoek dit eens.’

De oorzaak van deze plotselinge golf aan citaties blijkt geen toeval. AI-gestuurde wetenschappelijke papers worden steeds geavanceerder en worden massaal gegenereerd. Deze papers worden vervolgens door andere onderzoekers gebruikt als bron, zonder dat de kwaliteit of originaliteit altijd goed wordt gecontroleerd. Het gevolg? Een vicieuze cirkel waarin slechte of zelfs onjuiste studies zich als een lopend vuurtje verspreiden.

Experts waarschuwen dat dit fenomeen de integriteit van het wetenschappelijk onderzoek aantast. ‘Het is een groeiend probleem,’ aldus een onderzoeker van de Universiteit van Amsterdam. ‘AI-papers worden steeds vaker gebruikt als referentie, ook als ze geen echte wetenschappelijke waarde hebben.’

De gevolgen zijn verstrekkend. Citaties bepalen niet alleen de reputatie van onderzoekers, maar ook de financiering van onderzoeksprojecten. Als AI-papers ten onrechte als betrouwbare bronnen worden gezien, kan dit leiden tot een verkeerde verdeling van middelen en een afname van de kwaliteit van wetenschappelijke publicaties.

Ook de wetenschappelijke tijdschriften zelf staan voor een uitdaging. Veel redacties worstelen met het onderscheiden van echte wetenschappelijke doorbraken van AI-gegenereerde content. ‘We zien een toename van papers die te goed klinken om waar te zijn,’ zegt een redacteur van een vooraanstaand wetenschappelijk tijdschrift. ‘Het is bijna onmogelijk om ze allemaal handmatig te controleren.’

De oplossingen zijn nog niet duidelijk. Sommige onderzoekers pleiten voor strengere controles en het gebruik van AI-detectietools om nep-papers te filteren. Anderen zien een rol voor de overheid en onderzoeksfinanciers om de kwaliteit van wetenschappelijke publicaties te waarborgen. Eén ding is zeker: het probleem van AI-gegenereerde papers zal de komende jaren alleen maar groter worden.