Jurnal Medis Terkemuka Kritik AI dalam Pelayanan Kesehatan: Bahaya dan Keterbatasan yang Perlu Diwaspadai

AI Medis Kian Populer, tapi Bukti Manfaatnya Masih Langka

Survei terbaru mengungkap jutaan warga Amerika kini lebih memilih bertanya kepada chatbot AI untuk saran medis daripada berkonsultasi langsung dengan dokter. Tren ini semakin marak meski para peneliti terus menemukan cacat serius pada sistem AI berbasis model bahasa besar (LLM) yang diklaim mampu merangkum rekam medis dan memberikan nasihat kesehatan berdasarkan input teks sederhana.

Halusinasi AI hingga Diagnosis Palsu: Masalah yang Belum Terpecahkan

Salah satu masalah terbesar AI medis adalah halusinasi, di mana sistem menghasilkan temuan klinis detail berdasarkan gambar yang tidak pernah diberikan. Bahkan, AI mudah tertipu oleh penyakit palsu yang sengaja diciptakan peneliti untuk menguji sistem. Kondisi ini membuat para ahli mempertanyakan apakah AI layak diadopsi dalam layanan kesehatan, terutama karena bukti manfaat nyata bagi pasien maupun penyedia layanan masih sangat minim.

Editorial di Nature Medicine: AI Medis Perlu Regulasi Ketat

Sebuah editorial tajam yang diterbitkan di jurnal medis terkemuka Nature Medicine pada Selasa (16/7) menekankan bahwa bukti AI menciptakan nilai bagi pasien, dokter, atau sistem kesehatan masih sangat jarang. Meskipun demikian, klaim dampak klinis AI semakin sering muncul dalam publikasi dan materi produk, tanpa standar bukti yang jelas.

"Klaim tentang dampak klinis AI semakin banyak terdengar, namun tidak ada kesepakatan mengenai tingkat bukti apa yang diperlukan agar klaim tersebut dianggap kredibel. Akibatnya, tidak hanya menimbulkan ketidakpastian ilmiah, tetapi juga mendorong implementasi prematur yang berisiko," tulis para editor.

Editorial tersebut menyerukan pembentukan kerangka kerja evaluasi untuk teknologi AI medis, termasuk metrik dan tolok ukur yang jelas. "Kerangka ini sangat dibutuhkan untuk mencegah adopsi AI yang tidak terkontrol," tegasnya.

Kegagalan Diagnosis hingga Penyebaran Data Palsu: Risiko Nyata AI

Sebuah studi dalam jurnal JAMA Medicine menunjukkan bahwa ketika dihadapkan pada gejala ambigu, model AI terdepan gagal memberikan diagnosis yang benar hingga 80% kasus. Temuan ini menyoroti keterbatasan AI dalam kondisi dunia nyata, meski performanya mungkin impresif dalam skenario laboratorium.

Masalah lain muncul dalam penelitian klinis. Meskipun AI mahir merangkum dan menganalisis data, para peneliti memperingatkan bahwa ketergantungan berlebihan pada AI dapat mengorbankan ketelitian ilmiah. Dr. Jamie Robertson, Asisten Profesor Bedah di Harvard Medical School, menjelaskan:

"AI dapat membantu mempercepat proses yang rumit dan melelahkan, seperti analisis data dan pembuatan kode. Namun, pengguna AI dalam studi klinis harus memahami batasan dan konteks penggunaannya dengan tepat."

Contoh Nyata: AI Tertipu oleh Penyakit Palsu

Sebagai bukti kerentanan AI, peneliti medis Almira Osmanovic Thunström dari Universitas Gothenburg melakukan eksperimen dengan mengunggah dua studi palsu ke server pracetak. Dalam hitungan waktu, jurnal-jurnal bereputasi menerbitkan (dan kemudian mencabut) makalah yang mengutip studi palsu tersebut. Hal ini menunjukkan betapa mudahnya data tidak valid menyebar dalam sistem medis yang melibatkan AI.

Masa Depan AI Medis: Antara Inovasi dan Kehati-hatian

Para ahli menekankan bahwa kemajuan AI medis tidak hanya bergantung pada model yang lebih baik, tetapi juga pada pengawasan ketat dan standar evaluasi yang ketat. Tanpa itu, risiko kesalahan diagnosis, penyebaran informasi palsu, dan kerugian bagi pasien akan terus meningkat.

Masyarakat disarankan untuk tetap kritis dan tidak menggantikan konsultasi medis profesional dengan AI, hingga sistem tersebut terbukti aman dan akurat dalam skala luas.