FTC Siap Perluas Pengawasan AI untuk Cegah Deepfake dan Penipuan Suara

FTC Siapkan Penegakan Hukum Ketat terhadap AI Berbahaya

Komisi Perdagangan Federal (FTC) AS bersiap memperluas keterlibatannya dalam mengendalikan penggunaan AI untuk tindakan jahat. Fokus utama mencakup penyebaran deepfake seksual tanpa persetujuan dan penipuan suara menggunakan AI. Langkah ini didukung oleh undang-undang terbaru yang memberikan kewenangan lebih luas kepada FTC.

Take It Down Act: Landasan Hukum Baru

Pada tahun lalu, Kongres AS mengesahkan Take It Down Act, sebuah undang-undang yang memungkinkan penuntutan pidana bagi individu yang menyebarkan atau mendistribusikan gambar intim tanpa persetujuan, termasuk konten palsu yang dihasilkan AI. Ketua FTC, Andrew Ferguson, menyebut undang-undang ini sebagai salah satu pencapaian legislatif terbesar pemerintahan Presiden Donald Trump saat ini.

Ferguson menyatakan FTC sedang mempersiapkan penegakan hukum yang tegas terhadap pelanggaran ini. Pada awal bulan ini, Departemen Kehakiman AS mencatat kemenangan hukum pertama di bawah undang-undang tersebut. James Strahler (37 tahun), warga Columbus, Ohio, mengaku bersalah karena menggunakan deepfake pornografi AI untuk melecehkan setidaknya enam wanita.

Kewajiban Platform dalam 48 Jam

Sejak Mei mendatang, individu dapat mengajukan pemberitahuan penghapusan kepada situs web yang menerbitkan atau menyimpan deepfake seksual. Platform memiliki waktu 48 jam untuk menghapus konten tersebut atau menghadapi investigasi dan penegakan hukum oleh FTC.

"Kami berharap tidak pernah harus menegakkan aturan ini, namun FTC menjadikan penegakan Take It Down Act sebagai prioritas utama. Kami sedang mempersiapkan segala sesuatu yang dibutuhkan untuk menerapkan ketentuan penghapusan ini."

Potensi Konflik dengan Perusahaan Teknologi

Penerapan undang-undang ini berpotensi menimbulkan ketegangan dengan perusahaan teknologi, terutama yang platformnya digunakan untuk membuat atau menyebarkan deepfake. Salah satu contohnya adalah xAI dengan Grok, yang masih digunakan untuk membuat dan menyimpan gambar deepfake seksual tanpa persetujuan, meski sebelumnya pernah tersandung skandal serupa.

Menanggapi pertanyaan mengenai penerapan undang-undang terhadap Grok, Meador menjelaskan bahwa FTC baru dapat bertindak setelah menerima keluhan resmi mulai Mei mendatang. "Ketentuan ini akan diberlakukan, dan jika mereka tidak menghapus konten setelah menerima keluhan, kami akan menindaklanjuti," katanya.

xAI belum memberikan tanggapan resmi mengenai persiapan mereka untuk mematuhi Take It Down Act.

Perlindungan Anak sebagai Prioritas

Strahler juga mengaku menggunakan foto anak-anak di lingkungannya untuk membuat pornografi deepfake. Rencana strategis FTC yang dirilis bulan ini menekankan perlindungan anak secara online sebagai perhatian utama. FTC berkomitmen untuk mengeksplorasi cara-cara baru guna melindungi anak-anak dan mendukung keluarga, termasuk melalui kewenangan baru yang diberikan Take It Down Act.

Dampak terhadap Industri dan Masyarakat

• Bagi perusahaan teknologi: Kewajiban menghapus konten dalam 48 jam menuntut sistem moderasi yang lebih cepat dan efisien.
• Bagi korban: Mekanisme pengaduan yang lebih terstruktur memberikan perlindungan hukum yang lebih kuat.
• Bagi regulator: FTC harus menyeimbangkan penegakan hukum dengan inovasi teknologi yang terus berkembang.