Sam Altman Minta Maaf atas Kegagalan OpenAI Cegah Tembak-menembak di Tumbler Ridge

Kegagalan OpenAI dalam Mencegah Tembak-menembak di Tumbler Ridge

Pada Februari lalu, Jesse Van Rootselaar, seorang remaja berusia 18 tahun, melakukan serangan brutal di Tumbler Ridge, British Columbia. Ia membunuh delapan orang dan dirinya sendiri, serta melukai puluhan lainnya. Serangan dimulai di rumahnya sebelum berlanjut ke SMA setempat.

Setelah penyelidikan, diketahui bahwa akun ChatGPT milik Van Rootselaar pernah ditandai dan diblokir oleh OpenAI karena berisi skenario kekerasan bersenjata. Hal ini terjadi berbulan-bulan sebelum tragedi terjadi. Namun, OpenAI tidak melaporkan akun tersebut kepada pihak berwenang, memicu pertanyaan etis tentang peran teknologi AI dalam masyarakat modern.

Sam Altman Akui Kegagalan dan Minta Maaf

Menanggapi insiden tersebut, CEO OpenAI, Sam Altman, akhirnya mengeluarkan permintaan maaf secara terbuka. Dalam surat terbuka yang ditujukan kepada masyarakat Tumbler Ridge, ia menyatakan:

"Saya sangat menyesal karena kami tidak melaporkan akun yang diblokir pada Juni lalu kepada pihak berwenang. Meskipun kata-kata tidak akan pernah cukup, saya percaya permintaan maaf ini diperlukan untuk mengakui kerugian dan kehilangan yang tidak dapat diperbaiki yang dialami masyarakat Anda."

"Saya ingin menyampaikan belasungkawa yang terdalam kepada seluruh masyarakat. Tidak ada seorang pun yang seharusnya mengalami tragedi seperti ini. Saya tidak dapat membayangkan hal yang lebih buruk di dunia ini selain kehilangan seorang anak."

Reaksi Pemerintah dan Langkah OpenAI Selanjutnya

Perdana Menteri British Columbia, David Eby, menanggapi permintaan maaf Altman dengan skeptis. Ia menulis di Twitter:

"Permintaan maaf itu diperlukan, tetapi sangat tidak memadai untuk menutupi penderitaan yang dialami keluarga-keluarga di Tumbler Ridge."

Setelah tragedi tersebut, OpenAI mengumumkan sejumlah perubahan untuk meningkatkan sistem pencegahan. Menurut Ann O’Leary, Kepala Kebijakan Global OpenAI, perusahaan kini melibatkan ahli kesehatan mental dan perilaku untuk menilai kasus-kasus sulit. Mereka juga telah memperluas kriteria pelaporan untuk mendeteksi potensi kekerasan, meskipun pengguna tidak secara eksplisit menyebutkan target, sarana, atau waktu serangan.

O’Leary menambahkan, "Dengan pembelajaran yang berkelanjutan, di bawah protokol pelaporan yang ditingkatkan kepada penegak hukum, kami akan melaporkan akun yang diblokir pada Juni 2025 kepada pihak berwenang jika ditemukan hari ini."

Dalam permintaan maaf terbarunya, Altman juga berjanji untuk "mencari cara mencegah tragedi seperti ini di masa depan" dengan bekerja sama dengan semua tingkat pemerintahan.

Tembak-menembak Lain yang Melibatkan ChatGPT

Tragedi di Tumbler Ridge bukanlah satu-satunya kasus tembak-menembak yang melibatkan ChatGPT. Sekitar sepuluh bulan sebelumnya, Phoenix Ikner, seorang mahasiswa Universitas Negeri Florida, membunuh dua orang dan melukai tujuh lainnya di kampusnya. Transkrip percakapan yang baru-baru ini dipublikasikan menunjukkan bahwa Ikner memiliki percakapan panjang dan mengkhawatirkan dengan ChatGPT, termasuk rencana terperinci untuk melakukan serangan.

Kasus-kasus ini menyoroti potensi risiko penggunaan AI dalam mendeteksi dan mencegah tindak kekerasan, serta tanggung jawab perusahaan teknologi dalam melindungi masyarakat.