Keluarga Gugat OpenAI karena Saran ChatGPT Diduga Picu Overdosis Obat

Sebuah keluarga di Amerika Serikat menggugat OpenAI atas dugaan keterlibatan ChatGPT dalam kasus overdosis obat yang dialami Sam Nelson. Gugatan tersebut menyebutkan bahwa ChatGPT memberikan saran penggunaan obat-obatan yang berujung pada insiden tersebut.

Menurut pengaduan yang diajukan, saran yang diberikan oleh ChatGPT dimulai sejak perilisan model GPT-4o. Keluarga Nelson menuntut pertanggungjawaban hukum atas dampak yang ditimbulkan, termasuk kerugian fisik dan emosional yang dialami korban.

OpenAI belum memberikan tanggapan resmi terkait gugatan ini. Perusahaan teknologi tersebut sebelumnya dikenal karena pengembangan model bahasa besar yang digunakan secara luas, termasuk dalam layanan chatbot seperti ChatGPT.

Kasus ini menambah daftar kontroversi yang melibatkan penggunaan kecerdasan buatan dalam memberikan saran kesehatan. Para ahli menekankan pentingnya regulasi yang ketat untuk mencegah dampak negatif dari penggunaan AI dalam konteks medis.

Latar Belakang Kasus

Sam Nelson, yang menjadi korban dalam kasus ini, dilaporkan mengalami overdosis setelah mengikuti saran yang diberikan oleh ChatGPT. Keluarga Nelson menyatakan bahwa saran tersebut tidak hanya tidak akurat, tetapi juga berpotensi berbahaya. Mereka menuntut OpenAI untuk bertanggung jawab atas kerugian yang diderita.

Tuntutan dan Dampak Hukum

Gugatan yang diajukan oleh keluarga Nelson menuntut ganti rugi atas kerugian fisik dan emosional yang dialami. Mereka juga meminta agar OpenAI menerapkan langkah-langkah untuk mencegah insiden serupa di masa depan, termasuk pembatasan akses terhadap saran medis oleh AI.

Kasus ini menjadi sorotan publik terkait dengan penggunaan AI dalam memberikan saran kesehatan. Banyak pihak yang mempertanyakan keamanan dan akurasi informasi yang diberikan oleh sistem AI, terutama dalam konteks yang sensitif seperti kesehatan.

Pernyataan Para Ahli

"Penggunaan AI dalam memberikan saran medis memerlukan regulasi yang sangat ketat. Tanpa pengawasan yang memadai, risiko kesalahan dan dampak negatif dapat meningkat secara signifikan," ujar seorang ahli kecerdasan buatan dari Universitas Indonesia.

Para ahli juga menekankan pentingnya transparansi dalam pengembangan dan penggunaan model AI, terutama dalam konteks yang melibatkan nyawa manusia.