Peneliti Ciptakan Penyakit Palsu untuk Mengecoh AI, dan Hal Mengejutkan Terjadi

Eksperimen Mengejutkan: Penyakit Palsu yang Menipu AI

Pada tahun 2024, tim yang dipimpin oleh Almira Osmanovic Thunström, peneliti medis dari Universitas Gothenburg, menciptakan sebuah penyakit fiktif bernama bixonimania. Kondisi kulit palsu ini diklaim disebabkan oleh kebiasaan menatap layar terlalu lama dan sering menggosok mata.

Untuk menguji keandalan sistem AI, tim tersebut mengunggah dua studi palsu tentang bixonimania ke server pracetak. Studi tersebut kemudian dihapus, namun dampaknya tak terduga. Dalam hitungan minggu, model AI terdepan seperti Google Gemini dan OpenAI ChatGPT mulai membahas bixonimania seolah-olah itu adalah penyakit nyata.

Lebih mengejutkan lagi, penelitian palsu tersebut bahkan dikutip dalam literatur akademik yang telah melalui peer review. Temuan ini menyoroti betapa dalamnya pengaruh AI dalam membentuk pengetahuan manusia, terutama dalam proses publikasi ilmiah.

AI dan Masalah Informasi Palsu

Eksperimen ini mengungkap kerentanan serius dalam sistem AI modern. AI kini telah merambah hampir seluruh tahapan peer review, dengan sebagian besar makalah ilmiah yang diindeks jurnal setiap tahun diduga sangat bergantung pada AI. Hal ini menimbulkan pertanyaan kritis mengenai validitas informasi dan menurunnya standar ketelitian ilmiah.

Selain itu, chatbot AI juga kerap memberikan saran kesehatan berbahaya kepada pengguna yang tidak curiga. Meskipun studi palsu tersebut dengan jelas memuat referensi aneh seperti Star Trek, The Simpsons, dan The Lord of the Rings, AI tetap meyakini bixonimania sebagai penyakit nyata.

Chatbot AI yang Tertipu

Meskipun awalnya ChatGPT sempat menyatakan bahwa bixonimania adalah label palsu, AI tersebut berubah pendapat hanya dalam beberapa hari. Dalam pernyataan kepada Nature, juru bicara OpenAI mengklaim bahwa teknologi mereka kini lebih baik dalam memberikan informasi medis yang akurat dan aman.

Sementara itu, pengguna di forum r/medicine di Reddit memberikan tanggapan yang lebih pesimistis. Salah satu pengguna menulis,

"Kita sudah selesai."

Dampak terhadap Publikasi Ilmiah

Setelah kebohongan ini terbongkar, jurnal-jurnal ilmiah kini dituntut untuk membersihkan makalah yang mengutip bixonimania. Setelah Nature menghubungi salah satu jurnal mengenai makalah yang merujuk pada penyakit palsu tersebut, jurnal tersebut segera menerbitkan pemberitahuan pencabutan. Mereka mengakui adanya tiga referensi yang tidak relevan, termasuk satu referensi tentang penyakit fiktif.

Osmanovic Thunström menegaskan,

"Sangat mengkhawatirkan ketika klaim besar semacam ini lolos tanpa tantangan dalam literatur ilmiah atau proses peer review. Saya yakin masih banyak masalah lain yang belum terungkap."

Kesimpulan: AI dan Masa Depan Informasi Kesehatan

Eksperimen ini menjadi bukti nyata bagaimana AI dapat dengan mudah menipu sistem informasi, terutama dalam bidang kesehatan. Meskipun AI menawarkan kemudahan akses terhadap informasi, risiko penyebaran informasi palsu tetap menjadi ancaman serius. Para ahli menekankan pentingnya verifikasi dan pengawasan ketat terhadap konten yang dihasilkan AI.