FTC styrker indsatsen mod AI-misbrug: Nye regler rammer dybefakes og stemmekloning

Den amerikanske forbrugermyndighed Federal Trade Commission (FTC) intensiverer indsatsen mod misbrug af kunstig intelligens, herunder spredning af ikke-godkendte seksuelle dybefakes og stemmekloningssvindel. Initiativet følger efter vedtagelsen af Take It Down Act sidste år, en lov, der gør det strafbart at dele eller distribuere ikke-godkendte, intime billeder og digitale forfalskninger – også dem skabt med AI.

Under et senatshøring forrige uge betegnede FTC-formand Andrew Ferguson den nye lov som en af de største lovgivningsmæssige bedrifter i den nuværende kongres og præsident Donald Trumps regering. Han understregede, at FTC forbereder sig på en kraftfuld håndhævelse af loven.

Allerede i denne måned opnåede Justitsministeriet sin første dom efter den nye lov. Den 37-årige James Strahler fra Columbus, Ohio, erklærede sig skyldig i at have anvendt AI-genererede nøgenbilleder i en chikaneringskampagne rettet mod mindst seks kvinder. Desuden indrømmede han at have brugt fotos af børn i sit nabolag til at producere dybfake-pornografi.

Fra maj træder en central del af loven i kraft: Den giver borgere mulighed for at indgive “fjernelse-anmodninger” til websites, der publicerer eller hoster seksuelle dybefakes. Virksomhederne vil herefter have 48 timer til at fjerne indholdet, inden FTC kan igangsætte undersøgelser og håndhævelse. Kommissær Mark Meador udtalte ved en konference i Washington D.C. den 30. marts, at selvom han håber, at myndigheden aldrig skal anvende tvang, betragter FTC håndhævelsen som en høj prioritet og forbereder sig aktivt på at implementere bestemmelsen.

Dette kan hurtigt føre til de første større konfrontationer med techbranchen – især virksomheder som xAI. Dets værktøj Grok bliver fortsat brugt til at skabe og hoste ikke-godkendte dybefake-billeder af rigtige personer, på trods af en tidligere skandale. Efter Meadors tale spurgte CyberScoop ham, hvordan fjernelsesbestemmelserne vil gælde for Groks masseproduktion af nøgenbilleder. Han svarede, at loven først tillader FTC at reagere, når formelle klager modtages fra maj:

"Dette træder i kraft, og hvis de [virksomhederne] ikke [fjerner indholdet], vil vi modtage klagerne og derefter gå efter dem. Så vi må vente og se, hvordan... virksomhederne reagerer på anmodninger om fjernelse. Mit håb er, at alle virksomheder, der modtager en anmodning, straks fjerner indholdet."

xAI’s presseafdeling har endnu ikke reageret på CyberScoop’s forespørgsel om, hvordan virksomheden forbereder sig på at overholde Take It Down-loven.

En strategisk plan offentliggjort tidligere på måneden fremhæver beskyttelse af børn online som en nøgleprioritet for FTC. Planen understreger, at myndigheden vil udvikle flere forbrugerredskaber og ressourcer for at støtte familier. "FTC er dedikeret til at udforske andre måder at beskytte børn og støtte familier på, herunder gennem den nye myndighed efter Take It Down Act," hedder det i planen.