Citate false nei paper scientifici: l’IA generativa alimenta il fenomeno delle 'allucinazioni'

Le citazioni nei paper accademici rappresentano un pilastro fondamentale della ricerca scientifica: servono a collegare ogni studio al lavoro precedente, creando una sorta di albero genealogico che traccia l’evoluzione delle idee, dei metodi e delle scoperte. Tuttavia, un numero crescente di queste citazioni sta portando a vicoli ciechi.

Secondo uno studio pubblicato giovedì su The Lancet, sempre più riferimenti bibliografici nei lavori scientifici risultano falsificati: non rimandano a documenti reali, ma a fonti inesistenti, inquinando così il patrimonio della conoscenza scientifica.

L’impatto dell’IA generativa sulla ricerca

La responsabilità di questo fenomeno sarebbe da attribuire agli strumenti basati sull’intelligenza artificiale generativa, come i modelli linguistici avanzati utilizzati per redigere articoli o analizzare dati. I ricercatori della Columbia University, autori dello studio, hanno evidenziato come l’uso di questi sistemi stia favorendo la diffusione di citazioni inventate, spesso definite come ‘allucinazioni’ dell’IA.

Queste ‘allucinazioni’ si verificano quando un modello di intelligenza artificiale genera informazioni plausibili ma del tutto inventate, inclusi riferimenti bibliografici che sembrano autentici ma non esistono nella realtà. Il problema non è trascurabile: un singolo articolo può contenere decine di citazioni, e se anche solo una parte di esse risulta falsa, l’intero lavoro rischia di essere compromesso.

Le conseguenze per la scienza

La diffusione di citazioni fraudolente rappresenta una minaccia seria per l’integrità della ricerca scientifica. Quando un paper cita una fonte inesistente, si crea un circolo vizioso: altri studiosi potrebbero basare le proprie ricerche su dati falsi, perpetuando così l’errore. Inoltre, questo fenomeno rischia di minare la fiducia nel sistema scientifico, soprattutto in un’epoca in cui la verifica dei fatti è già messa a dura prova.

«Le citazioni false non sono solo un problema tecnico, ma una questione etica che può avere ripercussioni a lungo termine sulla qualità della ricerca», ha dichiarato uno dei coautori dello studio.

Come difendersi dalle citazioni fraudolente

Per contrastare questo fenomeno, gli esperti suggeriscono alcune strategie:

• Verifica manuale delle citazioni: controllare sempre che i riferimenti bibliografici esistano realmente e siano coerenti con il contesto dello studio.
• Utilizzo di strumenti di controllo: alcune piattaforme, come Crossref o PubMed, permettono di verificare l’autenticità delle citazioni in tempo reale.
• Sensibilizzazione dei ricercatori: formare gli studiosi sull’uso responsabile dell’IA e sui rischi delle ‘allucinazioni’ dei modelli linguistici.
• Revisione paritaria più rigorosa: le riviste scientifiche dovrebbero implementare controlli più stringenti sui riferimenti bibliografici prima della pubblicazione.

Il problema delle citazioni fraudolente non è nuovo, ma l’avvento dell’IA generativa lo ha reso ancora più urgente. Affrontarlo richiede uno sforzo congiunto da parte di ricercatori, editori e istituzioni scientifiche per garantire che la scienza rimanga un patrimonio di conoscenza affidabile e verificabile.