L'essor de l'IA menace l'intégrité de la recherche scientifique

L'été dernier, le superviseur postdoctoral de Peter Degen lui a présenté un problème inhabituel : l'un de ses articles était cité de manière anormalement fréquente. Dans le milieu académique, les citations équivalent à une forme de reconnaissance, mais la situation présentait une particularité troublante.

Publié en 2017, l'article en question évaluait la précision d'une méthode statistique appliquée à des données épidémiologiques. Bien qu'il ait accumulé quelques dizaines de citations au fil des années, il était désormais référencé plusieurs fois par semaine, voire quotidiennement, le propulsant parmi les publications les plus citées de sa carrière. Alors qu'un autre professeur aurait pu s'en réjouir, l'enseignant a demandé à Degen d'enquêter sur cette anomalie.

Après une analyse approfondie, Degen a découvert que la majorité de ces citations provenaient d'articles générés par intelligence artificielle. Ces travaux, souvent publiés dans des revues peu scrupuleuses, reprenaient mécaniquement des références sans vérification, amplifiant artificiellement l'impact apparent de certaines recherches.

L'IA, un outil à double tranchant pour la science

Ce phénomène illustre une tendance inquiétante : l'utilisation croissante de l'IA dans la rédaction d'articles scientifiques. Selon une étude récente, près de 10 % des publications en sciences sociales et en médecine pourraient contenir des passages générés par des algorithmes. Les chercheurs s'inquiètent de l'effet boule de neige : plus un article est cité, plus il est susceptible d'être utilisé comme référence, même s'il est de faible qualité ou frauduleux.

« Les citations sont censées refléter l'influence réelle d'une recherche, mais avec l'IA, elles deviennent un indicateur biaisé », explique un expert en métriques académiques. « Cela fausse non seulement les classements des universités, mais aussi les décisions de financement et les promotions. »

Un système académique sous pression

Les revues scientifiques, déjà critiquées pour leur modèle économique, peinent à détecter ces articles générés par IA. Les outils de détection actuels, comme SciDetect ou Crossref Similarity Check, montrent leurs limites face à des textes sophistiqués. Par ailleurs, la pression pour publier rapidement pousse certains chercheurs à recourir à ces méthodes, malgré les risques de rétractation ou de discrédit.

Les conséquences sont multiples :

• Une inflation artificielle des indicateurs de performance académique.
• Une difficulté accrue pour identifier les travaux innovants et pertinents.
• Un affaiblissement de la confiance dans le système de publication scientifique.

« Nous assistons à une course aux citations qui n'a plus rien à voir avec la qualité de la recherche. C'est devenu un jeu de dupes où les algorithmes dictent les règles. » — Un chercheur anonyme

Vers des solutions ?

Face à cette crise, plusieurs pistes sont envisagées. Certaines revues imposent désormais des vérifications manuelles des références, tandis que des plateformes comme PubPeer encouragent les évaluations par les pairs post-publication. D'autres proposent de limiter le nombre de citations par article ou d'exclure les textes générés par IA des bases de données académiques.

Les universités, quant à elles, révisent leurs critères d'évaluation pour intégrer des indicateurs de qualité plutôt que de quantité. « L'objectif n'est pas de supprimer l'IA, mais de l'utiliser de manière responsable », souligne un responsable de l'Université de Cambridge. « La science doit rester un processus de validation rigoureux, et non une course aux likes. »