Citações falsas em artigos científicos aumentam com uso de IA generativa, aponta estudo

Cresce o número de citações falsas em pesquisas científicas

As citações em artigos acadêmicos têm como função legitimar pesquisas com base em estudos anteriores, formando uma espécie de "árvore genealógica" que mapeia a origem de ideias, protocolos e descobertas. No entanto, um novo estudo publicado na revista Lancet nesta quinta-feira (12) revela um problema crescente: muitas dessas referências não levam a lugar algum.

Fabricação de citações contamina registros científicos

Segundo a pesquisa conduzida por especialistas da Universidade Columbia, nos Estados Unidos, citações fabricadas — aquelas que não correspondem a artigos ou estudos reais — estão se espalhando pela literatura científica. Esses erros não apenas distorcem o registro público da ciência, mas também comprometem a credibilidade de pesquisas que dependem dessas referências para validar seus achados.

O estudo aponta que a IA generativa, cada vez mais utilizada por pesquisadores para auxiliar na redação de artigos, é uma das principais responsáveis por esse fenômeno. Ferramentas como modelos de linguagem avançados podem gerar citações plausíveis, mas completamente inventadas, sem que os autores percebam o erro.

"As citações falsas não apenas poluem o registro científico, mas também podem levar a conclusões equivocadas em pesquisas futuras, que se baseiam em referências incorretas."

Impacto da IA generativa na integridade da ciência

Os pesquisadores responsáveis pelo estudo destacam que, embora a IA seja uma ferramenta poderosa para acelerar a produção científica, seu uso indiscriminado pode gerar consequências graves. A fabricação de citações é apenas um dos riscos associados ao uso de modelos de linguagem em pesquisas acadêmicas.

Entre os problemas identificados estão:

• Referências inventadas: Citações que não existem em nenhuma base de dados científica;
• Erros de atribuição: Atribuição incorreta de ideias ou descobertas a autores ou estudos errados;
• Plágio disfarçado: Uso de trechos de IA sem a devida citação ou revisão;
• Viés algorítmico: Reforço de vieses presentes nos dados de treinamento da IA.

Como evitar a disseminação de citações falsas?

Para combater esse problema, os autores do estudo sugerem algumas medidas:

• Revisão humana rigorosa: Todos os artigos gerados ou revisados com auxílio de IA devem passar por uma verificação minuciosa por parte dos autores;
• Uso de ferramentas de detecção: Plataformas como Scite.ai ou Crossref podem ajudar a identificar citações suspeitas;
• Transparência: Pesquisadores devem declarar explicitamente quando e como a IA foi utilizada em seus trabalhos;
• Educação e conscientização: Cursos e treinamentos sobre o uso ético da IA na ciência devem ser incentivados.

O futuro da integridade científica

O estudo publicado na Lancet serve como um alerta para a comunidade científica sobre os riscos associados ao uso indiscriminado de ferramentas de IA. Embora essas tecnologias possam trazer benefícios, como a aceleração de descobertas e a redução de tarefas repetitivas, é fundamental que seu uso seja acompanhado de mecanismos de controle e ética.

Os pesquisadores enfatizam que, sem ações concretas, a proliferação de citações falsas pode minar a confiança no método científico e prejudicar o avanço do conhecimento.