Onderzoek onthult toename van valse bronvermeldingen in wetenschappelijke artikelen

Onderzoekers waarschuwen voor groeiend probleem van valse bronvermeldingen

Bronvermeldingen in wetenschappelijke artikelen dienen als fundament voor onderzoek. Ze verwijzen naar eerdere studies en vormen zo een soort stamboom van ideeën, protocollen en onderzoeken. Maar steeds vaker leiden deze verwijzingen naar niets: zogenaamde 'gefabriceerde' bronvermeldingen die niet naar bestaande wetenschappelijke publicaties verwijzen.

AI-tools als mogelijke oorzaak

Een nieuwe studie, gepubliceerd in The Lancet op donderdag, toont aan dat dit probleem in omvang toeneemt. Onderzoekers van Columbia University concluderen dat generatieve AI-tools hier waarschijnlijk verantwoordelijk voor zijn. Deze tools kunnen zogenaamde 'hallucinaties' veroorzaken: het genereren van niet-bestaande bronvermeldingen die ogenschijnlijk legitiem lijken.

Volgens de auteurs van het onderzoek leidt dit tot een vervuiling van het wetenschappelijke record. Het ondermijnt de betrouwbaarheid van wetenschappelijke literatuur en kan de voortgang van onderzoek vertragen.

Gevolgen voor de wetenschap

De verspreiding van valse bronvermeldingen heeft verstrekkende gevolgen:

• Ondermijning van vertrouwen: Wetenschappers en leken kunnen minder vertrouwen hebben in de integriteit van wetenschappelijke publicaties.
• Vertraging van onderzoek: Het controleren van bronvermeldingen kost tijd en kan de voortgang van wetenschappelijk werk vertragen.
• Financiële verspilling: Onderzoeksfinanciers en instellingen kunnen geld verspillen aan projecten die gebaseerd zijn op verkeerde of valse informatie.

Oproep tot actie

De onderzoekers roepen wetenschappers en uitgevers op om strenger te controleren op valse bronvermeldingen. Zij pleiten voor het gebruik van geavanceerde detectietools en het implementeren van striktere richtlijnen voor het gebruik van AI in wetenschappelijk onderzoek.

"De verspreiding van gefabriceerde bronvermeldingen is een groeiend probleem dat de integriteit van de wetenschap bedreigt. Het is essentieel dat we nu actie ondernemen om de betrouwbaarheid van wetenschappelijke literatuur te waarborgen," aldus de auteurs van de studie.

Wat kunnen onderzoekers doen?

Om valse bronvermeldingen te voorkomen, geven de onderzoekers de volgende aanbevelingen:

• Handmatige controle van alle bronvermeldingen in artikelen.
• Gebruik van gespecialiseerde software om AI-gegenereerde bronvermeldingen te detecteren.
• Transparantie over het gebruik van AI-tools in wetenschappelijke publicaties.
• Opleiding van onderzoekers over de risico's van AI-hallucinaties.