FTC begynder håndhævelse af Take It Down-loven mod dybfake-billeder

Den amerikanske Forbrugerombudsmand (FTC) indleder fra den 19. maj håndhævelsen af en central bestemmelse i Take It Down-loven. Loven pålægger websites, apps og andre onlineplatforme at fjerne ikke-godkendt dybfake-indhold inden for 48 timer efter modtagne anmeldelser. Udebliver fjernelsen, risikerer virksomhederne bøder og undersøgelser fra FTC.

Hvad kræver den nye lov?

Take It Down-loven, vedtaget af Kongressen sidste år, forpligter digitale tjenester til at etablere effektive systemer til modtagelse og fjernelse af ulovligt indhold. Dette omfatter både AI-genererede billeder og videoer samt modificerede fotos af rigtige personer, der anvendes uden samtykke.

FTC’s direktør Andrew Ferguson har i denne uge sendt brev til en række tech- og socialemedievirksomheder, herunder Amazon, Apple, Meta, Microsoft, TikTok og X, for at præcisere, hvordan håndhævelsen vil foregå. Ifølge Ferguson er beskyttelse af sårbare grupper, herunder børn, en prioritet for myndigheden.

Bøder og krav til platformene

Virksomheder, der ikke overholder fristen på 48 timer, kan idømmes en maksimal bøde på 53.088 kr. per overtrædelse. Derudover skal platformene:

• Gøre det nemt for ofre at indsende fjernelsesanmodninger, også for brugere uden konto;
• Præsentere deres fjernelsesprocedurer på hjemmesiden i klart og forståeligt sprog;
• Give tydelig information om, hvordan ofre kan anmode om fjernelse;
• Implementere hashing-teknologi for at forhindre genopdukken af fjernet indhold;
• Samarbejde med organisationer som National Center for Missing and Exploited Children og StopNCII.org for at spore ulovligt indhold på tværs af internettet.

Eksempler på overtrædelser

Loven dækker alle former for digitale platforme, herunder sociale medier, billed- og videodelingstjenester samt spilplatforme. Et nyligt eksempel er brugen af AI-værktøjet Grok på X, hvor ikke-godkendte, seksualiserede dybfake-billeder af rigtige personer blev spredt massivt. Dette har ført til undersøgelser og retssager mod X’s ejer, Elon Musk.

Eksperter bakker op om tiltagene

Becca Branum, direktør for Free Expression Project hos Center for Democracy and Technology, udtaler til CyberScoop, at FTC’s krav om klare og simple rapporteringsmuligheder for ofre stemmer overens med anbefalinger fra civilsamfundet. Hun påpeger dog, at nogle elementer i håndhævelsen endnu ikke er fuldt afklarede.

"Vi bakker op om FTC’s fokus på at beskytte ofre, men der er stadig udfordringer med at sikre, at reglerne bliver implementeret effektivt på tværs af alle platforme," siger Branum.