Erster Verfassungszusatz und algorithmische Inhaltsmoderation: Aktuelle Debatten nach Moody v. NetChoice

Im Jahr 2013 argumentierte ich, dass algorithmische Bearbeitung von Inhalten unter der Rechtsprechung des Supreme Courts als Meinungsäußerung im Sinne des Ersten Verfassungszusatzes zu werten ist. Diese Position wurde 2024 im Fall Moody v. NetChoice bestätigt, insbesondere im Kontext der algorithmischen Priorisierung von Inhalten auf Social-Media-Plattformen.

Die Entscheidung des Supreme Courts stößt auf breite Kritik, die aus unterschiedlichen Perspektiven begründet wird. Die Aufhebung von Gesetzen, die die inhaltliche Ausrichtung von Algorithmen regulieren sollen, erscheint vielen als problematisch und potenziell destabilisierend. Einige Kritiker fordern eine grundlegende Reform der Rechtsprechung zum Ersten Verfassungszusatz – eine Debatte, die weit über die Behandlung redaktioneller Entscheidungen hinausgeht. Andere schlagen vor, Social-Media-Plattformen entweder als staatliche Akteure oder als Common Carriers (öffentliche Versorgungsunternehmen) einzustufen.

In meinem bevorstehenden Werk Content Moderation and the First Amendment analysiere ich mögliche Reaktionen auf die Entscheidung in Moody v. NetChoice und komme zu dem Schluss, dass die plausibelste Lösung darin besteht, redaktionelle Entscheidungen von Monopolisten vom Ersten Verfassungszusatz auszunehmen. Im Gegensatz zu anderen Ansätzen vermeidet diese Lösung willkürliche Unterscheidungen und konzentriert sich auf Unternehmen, die aufgrund ihrer Marktmacht keine nennenswerten Wettbewerber haben.

Eine weitere diskutierte Möglichkeit wäre die Ausweitung der Rechtsprechung aus Moody: Danach könnten auch Botschaften, die vollständig von KI generiert werden – ohne menschliche Beteiligung – als Meinungsäußerung gelten, selbst wenn kein traditioneller Sprecher im Sinne des Ersten Verfassungszusatzes existiert.

In meiner Analyse neige ich jedoch weder zu der einen noch der anderen Lösung. Hinsichtlich der Marktmacht bevorzuge ich keine ad-hoc-Ausnahmen. Zudem erscheint mir der Schutz von rein KI-generierter Sprache als so grundlegend neu, dass ich zur Vorsicht rate.

Abschließend weise ich darauf hin, dass diese Fragen an Brisanz gewinnen werden, je einflussreicher Social-Media-Plattformen werden und je näher die Entwicklung einer künstlichen Allgemeinintelligenz rückt. Die Reaktionen auf diese Entwicklungen werden wahrscheinlich weniger von traditionellen verfassungsrechtlichen Grundsätzen geprägt sein als von der individuellen Haltung zu technologischem Fortschritt und Machtkonzentration. Die Debatte um den Ersten Verfassungszusatz und algorithmische Inhaltsmoderation steht damit vor einem grundlegenden Wandel.