FTC verstärkt Kampf gegen KI-Missbrauch: Neues Gesetz gegen Deepfakes und Voice-Cloning

FTC nimmt KI-Missbrauch stärker ins Visier

Die US-amerikanische Federal Trade Commission (FTC) intensiviert ihre Maßnahmen gegen den Missbrauch von KI-Technologien. Im Fokus stehen nicht einvernehmlich erstellte sexualisierte Deepfakes und Voice-Cloning-Betrug. Grundlage dafür ist der im vergangenen Jahr verabschiedete Take It Down Act, der die strafrechtliche Verfolgung von Personen ermöglicht, die solche Inhalte verbreiten oder teilen – einschließlich KI-generierter Fälschungen.

Erste Verurteilung nach neuem Gesetz

Bei einer Senatsanhörung letzte Woche bezeichnete FTC-Chef Andrew Ferguson den Take It Down Act als eine der „wichtigsten legislativen Errungenschaften“ der aktuellen Kongressperiode und der Trump-Administration. Die FTC bereite sich auf eine „konsequente Durchsetzung“ vor. Bereits Anfang März erzielte das Justizministerium die erste Verurteilung nach dem neuen Gesetz: Der 37-jährige James Strahler aus Columbus, Ohio, gestand die Nutzung von KI-generierten Nackt-Deepfakes im Rahmen einer Belästigungskampagne gegen mindestens sechs Frauen.

Neue Meldepflicht für Websites ab Mai

Ab Mai tritt ein weiterer Abschnitt des Gesetzes in Kraft: Betroffene können dann bei Websites, die sexualisierte Deepfakes hosten, eine „Löschanfrage“ einreichen. Die Plattformen haben 48 Stunden Zeit, die Inhalte zu entfernen, andernfalls drohen FTC-Ermittlungen und Strafen. FTC-Kommissar Mark Meador betonte auf einer Konferenz in Washington D.C. am 30. März, dass die Behörde die Durchsetzung als „höchste Priorität“ betrachte und bereits „alle Vorbereitungen“ treffe. Dennoch hoffe er, dass die Regelung „nie angewendet werden muss“ – vorausgesetzt, Unternehmen entfernten Inhalte umgehend nach Anfrage.

Konfrontation mit Tech-Konzernen erwartet

Die neuen Vorschriften könnten zu ersten größeren Konflikten mit Tech-Unternehmen führen. Besonders betroffen sein könnte xAI und sein Chatbot Grok, der weiterhin für die Erstellung und Verbreitung nicht einvernehmlicher Deepfakes genutzt wird – trotz eines Skandals Anfang des Jahres. Auf die Frage, wie die neuen Regelungen auf Groks „Massennudifizierungs“-Aktionen anwendbar seien, erklärte Meador:

„Das Gesetz tritt ab Mai in Kraft. Erst wenn Beschwerden eingehen, können wir aktiv werden. Wir müssen abwarten, wie Unternehmen auf Löschanfragen reagieren. Mein Wunsch ist, dass jedes Unternehmen, das eine solche Anfrage erhält, den Inhalt sofort entfernt.“

Auf Anfrage von CyberScoop zur Vorbereitung auf den Take It Down Act reagierte die Pressestelle von xAI nicht.

Schutz von Kindern als zentrale Aufgabe

Strahler, der noch nicht verurteilt wurde, gab zudem zu, Fotos von Kindern aus seiner Nachbarschaft für die Erstellung von Deepfake-Pornografie verwendet zu haben. Ein kürzlich veröffentlichter strategischer Plan der FTC identifiziert den Schutz von Kindern im Internet als „zentrale Aufgabe“. Die Behörde plane, „weitere Maßnahmen“ zu prüfen, um Familien zu unterstützen – darunter auch die neuen Befugnisse nach dem Take It Down Act.

Die FTC betont in dem Dokument: „Wir sind bestrebt, weitere Wege zu erkunden, wie die FTC Kinder schützen und Familien unterstützen kann, einschließlich der neuen Autoritäten durch den Take It Down Act.“