Moderasi Konten dan Amendemen Pertama: Dampak Putusan Mahkamah Agung terhadap Kebebasan Berbicara

Pada tahun 2013, saya berpendapat bahwa berdasarkan yurisprudensi Mahkamah Agung AS, pengeditan algoritmik merupakan bentuk kebebasan berbicara yang dilindungi oleh Amendemen Pertama. Putusan terbaru dalam kasus Moody v. NetChoice secara tegas mengukuhkan hal tersebut, khususnya dalam konteks prioritas konten yang dilakukan oleh algoritma di platform media sosial.

Banyak pihak menentang yurisprudensi ini, dengan alasan yang bisa dipahami. Pembatalan undang-undang yang mengatur keputusan algoritmik substantif oleh situs web dianggap sebagai langkah yang mencengangkan, bahkan mengkhawatirkan. Beberapa kritikus mengusulkan pembaruan terhadap yurisprudensi Amendemen Pertama, yang tidak hanya terbatas pada pilihan editorial, tetapi juga mencakup pengklasifikasian platform media sosial sebagai aktor negara atau pengangkut umum.

Dalam buku yang akan segera terbit berjudul Content Moderation and the First Amendment, saya membahas berbagai respons untuk membatasi dampak putusan Moody. Kesimpulannya, respons paling kuat adalah dengan mengecualikan keputusan editorial yang dibuat oleh monopolis dari perlindungan Amendemen Pertama. Berbeda dengan respons lainnya, pendekatan ini menghindari perbedaan arbitrer dan berfokus pada perusahaan yang, menurut hipotesis, tidak memiliki pesaing signifikan.

Saya juga menelaah kemungkinan perluasan garis kasus Moody, yaitu dengan mempertimbangkan bahwa minat audiens saja sudah cukup untuk memicu perlindungan Amendemen Pertama. Hal ini berarti pesan yang dihasilkan oleh AI tanpa keterlibatan manusia yang bermakna—dan karenanya tidak memiliki pembicara tradisional—dapat dianggap sebagai bentuk kebebasan berbicara.

Dalam kesimpulan, saya cenderung tidak mendukung kedua kemungkinan tersebut. Mengenai kekuatan pasar, saya lebih memilih untuk menghindari pengecualian yang bersifat ad hoc. Sementara itu, perlindungan terhadap ucapan yang sepenuhnya dihasilkan oleh AI tampaknya akan membawa perubahan besar, sehingga saya mendukung sikap hati-hati.

Saya menutup dengan catatan bahwa isu-isu ini akan semakin kompleks seiring dengan meningkatnya pengaruh platform media sosial dan semakin dekatnya realisasi kecerdasan buatan umum (AGI). Perpecahan dalam respons terhadap perkembangan ini kemungkinan besar akan lebih menjelaskan reaksi individu terhadap pengaturan keputusan editorial algoritmik dibandingkan dengan garis perdebatan tradisional Amendemen Pertama. Di bidang ini dan bidang lainnya, landasan perdebatan terus bergeser, sehingga menstabilkan diskusi yang sedang berlangsung.