Les citations frauduleuses dans les articles scientifiques explosent, alimentées par l'IA générative

Les citations dans les articles scientifiques servent de fondement à la recherche, créant un réseau de références qui retrace l'évolution des idées et des méthodes. Pourtant, un phénomène inquiétant se développe : des citations inexistantes, inventées de toutes pièces, envahissent la littérature académique.

Des références fantômes qui menacent la science

Une étude publiée jeudi dans The Lancet met en lumière cette tendance préoccupante. Selon les chercheurs de l'Université Columbia, auteurs de l'article, les outils d'IA générative seraient en grande partie responsables de cette prolifération de citations frauduleuses. Ces références, qui ne renvoient à aucun article réel, polluent le registre public de la science et sapent la crédibilité des publications.

L'impact de l'IA sur l'intégrité scientifique

Les chercheurs soulignent que ces citations inventées, souvent qualifiées de « hallucinations » par les utilisateurs d'IA, faussent la compréhension des travaux antérieurs. Elles créent des liens fictifs entre des études qui n'ont aucun rapport, brouillant ainsi la généalogie des idées scientifiques.

« Ces références fantômes ne sont pas de simples erreurs, mais des fausses informations délibérées qui peuvent avoir des conséquences graves sur la recherche », explique l'un des auteurs de l'étude. Leur prolifération risque de saper la confiance dans les publications scientifiques et de compliquer le travail des chercheurs.

Des solutions pour endiguer le phénomène

Face à cette menace, les auteurs de l'étude appellent à une prise de conscience collective. Ils recommandent notamment :

• Une vérification systématique des citations avant publication,
• Le développement d'outils capables de détecter les références frauduleuses,
• Une formation renforcée des chercheurs sur l'utilisation responsable de l'IA.

Un appel à l'action pour la communauté scientifique

Cette étude souligne l'urgence d'agir pour préserver l'intégrité de la recherche. Les chercheurs de Columbia insistent sur la nécessité de collaborer avec les éditeurs de revues scientifiques et les institutions pour mettre en place des mécanismes de contrôle plus stricts. Sans une réponse collective, le risque est que ces pratiques se généralisent, compromettant la fiabilité des travaux académiques.

« La science repose sur la confiance et la transparence. Si nous laissons ces pratiques se développer, c'est toute la crédibilité de la recherche qui est en jeu. »