FTC startet Durchsetzung des Take It Down Act: Plattformen müssen Deepfakes binnen 48 Stunden löschen

Die US-amerikanische Federal Trade Commission (FTC) beginnt am 19. Mai mit der Durchsetzung des Take It Down Act. Die Regelung verpflichtet Online-Plattformen, nicht einvernehmlich erstellte Deepfakes innerhalb von 48 Stunden nach einer Beschwerde zu entfernen. Andernfalls drohen hohe Geldstrafen und Ermittlungen durch die Behörde.

Das Gesetz, das der Kongress im vergangenen Jahr verabschiedete, ermöglichte es zunächst vor allem Strafverfolgungsbehörden, die Erstellung und Verbreitung solcher Inhalte strafrechtlich zu verfolgen. Plattformen erhielten jedoch ein Jahr Zeit, um ihre Melde- und Löschsysteme aufzubauen. Mit Beginn der neuen Durchsetzungsphase müssen Unternehmen nun innerhalb der Frist reagieren oder riskieren Sanktionen.

In dieser Woche verschickte FTC-Vorsitzender Andrew Ferguson Schreiben an zahlreiche Tech-Unternehmen, in denen er die geplanten Maßnahmen zur Überwachung der Compliance darlegte. Die FTC sieht ein maximales Bußgeld von 53.088 US-Dollar pro Verstoß vor. Zudem müssen Plattformen sicherstellen, dass Nutzer Beschwerden einfach und unkompliziert einreichen können.

Ferguson betonte in einer Stellungnahme:

„Wir sind bereit, die Einhaltung des Take It Down Act zu überwachen, Verstöße zu untersuchen und durchzusetzen. Der Schutz besonders verletzlicher Gruppen – insbesondere von Kindern – vor diesem schädlichen Missbrauch ist eine Priorität dieser Behörde und der Regierung.“

Die Regelung umfasst nicht nur nicht einvernehmliche intime Aufnahmen, die mit echten Fotos anderer Personen erstellt wurden, sondern auch durch KI generierte oder manipulierte „digitale Fälschungen“. Unternehmen müssen zudem sicherstellen, dass auch Nutzer ohne Konto Meldungen einreichen können. Ihre Melde- und Löschverfahren müssen sie auf ihren Websites in „einfacher Sprache“ erklären und Nutzern „deutlich sichtbare“ Hinweise zur Verfügung stellen, wie sie Löschanträge stellen können.

Betroffen sind laut FTC alle Websites, Apps, sozialen Medien, Bild- und Videoplattformen sowie Gaming-Dienste. Ferguson richtete seine Schreiben unter anderem an Amazon, Alphabet, Apple, Meta, Microsoft, TikTok und X.

Erst Anfang des Jahres sorgte die KI-Plattform Grok von X für Aufsehen, nachdem sie zur massenhaften Verbreitung nicht einvernehmlicher, sexualisierter Deepfakes von realen Personen genutzt wurde. Elon Musk, Eigentümer von X, wies anfängliche Kritik zurück, steht jedoch mittlerweile wegen mehrerer straf- und zivilrechtlicher Ermittlungen sowie Klagen im Zusammenhang mit dem Vorfall unter Druck. Einige internationale Politiker forderten sogar ein Verbot der Plattform.

Die FTC empfiehlt Unternehmen zusätzlich, Hashing-Technologien einzusetzen, um die erneute Verbreitung bereits gelöschter intimer Inhalte zu verhindern. Zudem sollen sie ihre Erkenntnisse mit Organisationen wie dem National Center for Missing and Exploited Children und StopNCII.org teilen, um die Nachverfolgung über das Internet hinweg zu erleichtern.

Becca Branum, Direktorin des Free Expression Project am Center for Democracy and Technology, begrüßte die FTC-Maßnahmen. Besonders die Vorgabe, klare und einfache Meldewege für Opfer zu schaffen, entspreche bewährten Praktiken zivilgesellschaftlicher Gruppen. Allerdings kritisierte sie, dass die Regelung noch Lücken aufweise.