AI Catatan Medis Dokter di Ontario Diduga Sering Berbohong, Temuan Audit

AI Catatan Medis Dokter di Ontario Diduga Sering Berbohong

Seiring meningkatnya beban kerja dokter, banyak yang beralih menggunakan AI catatan medis untuk meringkas percakapan dengan pasien, diagnosis, dan keputusan perawatan secara otomatis. Namun, temuan audit terbaru oleh Auditor Jenderal Ontario menunjukkan bahwa sistem AI ini kerap menghasilkan informasi yang salah, tidak lengkap, atau bahkan mengada-ada.

Temuan Utama dalam Laporan AI Pemerintah Ontario

Dalam laporan berjudul Penggunaan Kecerdasan Buatan dalam Pemerintah Ontario, auditor menemukan bahwa 20 vendor AI yang disetujui pemerintah provinsi untuk digunakan oleh penyedia layanan kesehatan memiliki masalah akurasi atau kelengkapan dalam setidaknya satu tes simulasi percakapan pasien-dokter.

Dari 20 vendor tersebut, sembilan di antaranya terbukti mengada-ada informasi pasien, 12 mencatat informasi secara salah, dan 17 melewatkan detail penting, terutama terkait masalah kesehatan mental yang dibahas dalam percakapan.

Contoh Kesalahan yang Berpotensi Berbahaya

Laporan tersebut menyoroti beberapa kesalahan kritis yang dapat berdampak langsung pada perawatan pasien, antara lain:

• AI menciptakan rujukan palsu untuk tes darah atau terapi yang tidak pernah diminta.
• Transkripsi nama obat yang salah, yang berpotensi menyebabkan kesalahan pemberian resep.
• Mengabaikan detail penting mengenai masalah kesehatan mental yang didiskusikan dalam percakapan.

Dampak terhadap Perawatan Pasien

Kesalahan-kesalahan ini tidak hanya mengganggu pencatatan medis, tetapi juga berisiko mempengaruhi keputusan perawatan yang berujung pada dampak negatif bagi pasien. Auditor menekankan bahwa informasi yang tidak akurat atau tidak lengkap dapat menyebabkan perencanaan perawatan yang tidak memadai atau bahkan berbahaya.

"Kesalahan dalam catatan medis AI ini berpotensi mengakibatkan perawatan yang tidak tepat atau bahkan merugikan pasien," kata Auditor Jenderal Ontario dalam laporannya.

Tanggapan Pemerintah dan Vendor AI

Meskipun temuan ini sangat mengkhawatirkan, pemerintah Ontario menyatakan bahwa mereka sedang mengevaluasi ulang penggunaan AI dalam pencatatan medis. Beberapa vendor AI juga diminta untuk meningkatkan akurasi sistem mereka sebelum digunakan lebih luas.

Para ahli kesehatan mendesak agar penggunaan AI dalam pencatatan medis tetap diawasi ketat dan divalidasi secara berkala untuk memastikan keamanan pasien.