AI-forskning: Nye studier citeres for meget – og det skaber problemer for videnskaben

Sidste sommer stod Peter Degen over for et usædvanligt problem. Hans postdoc-vejleder kom til ham med en bekymring: Ét af hans videnskabelige artikler blev citeret alt for ofte. Citationer er afgørende for akademisk anerkendelse, men her var der noget galt.

Artiklen, udgivet i 2017, havde undersøgt nøjagtigheden af en bestemt type statistisk analyse inden for epidemiologisk forskning. I årene efter udgivelsen havde den modtaget et respektabelt antal citationer – et par dusin. Men pludselig blev den refereret hundredvis af gange på få uger. Det placerede den blandt de mest citerede arbejder i vejlederens karriere.

Mens andre forskere ville have været begejstrede, bad Degen’s vejleder ham om at undersøge sagen nærmere. Degen, selv postdoc ved ETH Zürich, begyndte at grave i dataene og fandt hurtigt forklaringen: AI-værktøjer.

Mange nye forskningsartikler bliver i dag skrevet eller redigeret med hjælp fra kunstig intelligens. Disse systemer er programmeret til automatisk at inkludere referencer til tidligere arbejde for at give indtryk af bred faglig konsensus. Problemet er, at de ofte ender med at henvise til de samme få studier – uanset relevans.

Dette fænomen, kendt som AI-citation inflation, truer med at underminere troværdigheden i den videnskabelige litteratur. Når hundredvis af artikler citerer de samme kilder uden reel forbindelse til emnet, bliver det sværere at identificere, hvilke studier der faktisk er betydningsfulde.

Eksperter advarer om, at dette kan føre til en citeringsboble, hvor visse studier bliver overvurderet, blot fordi AI-værktøjer gentagne gange henviser til dem. Det kan i sidste ende skævvride forskningslandskabet og gøre det sværere for nye, innovative idéer at få opmærksomhed.

Degen og hans team har nu offentliggjort en foreløbig analyse af problemet og opfordrer til større bevidsthed om AI’s indflydelse på videnskabelig praksis. De foreslår blandt andet, at forskere begynder at gennemgå AI-genererede referencelister kritisk, inden de bliver publiceret.

Spørgsmålet er, hvordan det akademiske samfund vil reagere. Vil man forsøge at regulere brugen af AI i forskning? Eller vil problemet fortsætte med at vokse, indtil troværdigheden af videnskabelige resultater bliver alvorligt truet?