Kenaikan Drastis Karya Ilmiah AI: Ancaman bagi Integritas Penelitian?

Musim panas lalu, Peter Degen, seorang peneliti pascadoktoral, menerima pertanyaan tak biasa dari pembimbingnya. Salah satu karya ilmiahnya tiba-tiba menjadi sangat banyak dikutip. Meskipun kutipan merupakan ukuran penting dalam dunia akademis, lonjakan ini terasa mencurigakan.

Karya yang diterbitkan pada 2017 itu menganalisis akurasi metode statistik tertentu dalam data epidemiologi. Selama bertahun-tahun, karya tersebut hanya dikutip beberapa lusin kali. Namun kini, dalam hitungan hari, jumlah kutipan melonjak hingga ratusan, menempatkannya sebagai salah satu karya paling banyak dikutip dalam kariernya. Pembimbing Degen justru memintanya untuk menyelidiki penyebab lonjakan tersebut.

Degen pun memulai pencarian jawaban. Ia menemukan bahwa sebagian besar kutipan berasal dari karya ilmiah yang menggunakan alat kecerdasan buatan (AI) untuk menghasilkan referensi otomatis. Sistem AI tersebut secara acak memilih karya ilmiah sebagai sumber rujukan, tanpa mempertimbangkan relevansi atau kualitasnya. Akibatnya, karya Degen yang semula jarang dikutip tiba-tiba menjadi populer di kalangan peneliti yang mengandalkan AI.

Fenomena ini menyoroti masalah serius dalam dunia akademis: kecenderungan sistem AI yang mengutip karya secara otomatis tanpa verifikasi. Dampaknya, karya-karya berkualitas rendah atau bahkan palsu dapat memperoleh eksposur yang tidak semestinya, sementara karya asli yang relevan terabaikan.

Menurut para ahli, sistem AI saat ini sering kali mengandalkan algoritma yang memprioritaskan frekuensi kutipan daripada kualitas. Hal ini menciptakan lingkaran setan di mana karya yang banyak dikutip akan semakin banyak dikutip, terlepas dari kontribusi ilmiahnya yang sebenarnya.

Degen menyimpulkan bahwa sistem AI perlu dirancang ulang agar lebih selektif dalam memilih sumber rujukan. Tanpa perbaikan, integritas penelitian ilmiah dapat terancam oleh praktik kutipan otomatis yang tidak akurat.