AI-genererade forskningsartiklar hotar vetenskapens trovärdighet

I somras stod Peter Degen inför ett märkligt dilemma. Hans handledare, en erfaren forskare, hade upptäckt att en av hans tidigare artiklar plötsligt citerades i en aldrig tidigare skådad takt. Artikeln, publicerad 2017, hade undersökt tillförlitligheten hos en specifik statistisk analysmetod inom epidemiologisk forskning och hade dittills fått ett blygsamt antal citeringar.

Men nu refererades den flera gånger i veckan – ibland hundratals gånger på kort tid – och hamnade bland de mest citerade verken i handledarens karriär. För en annan forskare hade detta varit en anledning till glädje. Men Degen och hans handledare valde att undersöka fenomenet närmare.

AI:s inverkan på vetenskaplig publicering

Problemet visade sig vara kopplat till AI-genererade forskningsartiklar. Dessa verk, ofta skapade med hjälp av stora språkmodeller, tenderar att citeras i hög takt eftersom de ofta är lättillgängliga och formulerade på ett sätt som passar in i många olika sammanhang. Men risken är stor att kvaliteten och tillförlitligheten brister, vilket kan leda till en översvämning av opålitliga studier i akademiska tidskrifter.

Forskare oroar sig för trovärdigheten

Enligt experter kan den här utvecklingen underminera den vetenskapliga trovärdigheten. Citat är akademins valuta, men om citeringar sker på felaktiga grunder – som automatiserad generering av innehåll – förlorar systemet sitt syfte. Forskare som Degen och hans kollegor uppmanar till ökad uppmärksamhet kring hur AI används inom forskning och publicering.

"Vi måste vara försiktiga med att acceptera AI-genererade resultat utan kritisk granskning. Det handlar om att skydda den vetenskapliga integriteten."
— Peter Degen, postdoktor vid universitetet

Vad kan göras?

Flera åtgärder diskuteras för att motverka problemet:

• Strikta riktlinjer för AI-användning: Tidskrifter och forskningsinstitutioner bör införa tydliga regler för hur AI får användas i forskningsprocessen.
• Ökad transparens: Författare bör vara öppna med om och hur AI har använts vid framtagandet av en artikel.
• Bättre granskningsprocesser: Peer-review-systemen måste anpassas för att upptäcka och filtrera bort opålitliga AI-genererade studier.

Frågan är avgörande för framtidens forskning. Om AI fortsätter att generera och sprida vetenskapliga artiklar utan tillräcklig kontroll, riskerar det att underminera tilltron till hela det akademiska systemet.