Italiens premierminister udfordrer AI-misbrug med overraskende billede

Italiens premierminister Giorgia Meloni udfordrede i går AI-misbrugere ved at poste et AI-genereret billede af sig selv iklædt kun undertøj på platformen X (tidligere Twitter). Formålet var at vise, hvor let det er at skabe overbevisende falske billeder og videoer – og hvor farligt det kan være.

En advarsel mod blind tillid til det digitale

"Deepfakes er et farligt redskab, fordi de kan bedrage, manipulere og ramme hvem som helst," skrev Meloni på X. "Jeg kan forsvare mig selv. Mange andre kan det ikke." Selvom billedet teknisk set ikke er en deepfake – det er et fuldstændigt AI-genereret foto med hendes ansigt – illustrerer det alligevel problemets omfang. I modsætning til traditionelle deepfakes, der blot erstatter ansigter i eksisterende billeder, kan generativ AI kombinere forskellige elementer som ansigter, kroppe, stemmer og lyde til at skabe helt nye, syntetiske medier. Resultatet er ofte umuligt at afsløre: Da der ikke findes en original kilde at søge efter, virker indholdet autentisk og troværdigt.

Meloni har tidligere været offer for AI-misbrug

I 2024 sagsøgte Meloni to mænd, der havde skabt en pornografisk deepfake-video af hende. Denne gang valgte hun at tackle problemet med humor og ironi. "De her fakes ligner mig faktisk meget mere end jeg gør," skrev hun og tilføjede, at hun ville udgive det som en slags offentlig service-annonse for år 2026. "Derfor gælder denne regel: Tjek, før du tror – og tro, før du deler. For i dag sker det for mig, i morgen kan det ske for enhver," pointerede hun.

AI’s trussel mod den fælles virkelighed

Melonis handling viser mod til at sætte fokus på et stigende problem, men alene oplysning er ikke nok. Verden står over for en eksistentiel trussel: Generativ AI kan udnytte vores psykologiske bias og underminere vores fælles opfattelse af sandheden. Eksemplerne er mange:

• Jessica Foster: En AI-genereret, pro-Trump militær-influencer, der på blot tre måneder opnåede en million følgere og ledte mænd til en voksen hjemmeside. Selvom hendes digitale persona var fyldt med åbenlyse fejl, ignorerede hendes tilhængere dem, fordi indholdet passede til deres ideologiske forestillinger.
• Israels premierminister Benjamin Netanyahu: Da der opstod rygter om, at han var blevet myrdet, blev et autentisk videobevis afvist som en deepfake af mange brugere – trods dokumentation fra uafhængige faktatjekkere. Konspirationsteorierne sejrede.

Global regulering er nødvendig

Vi befinder os i en dystopisk virkelighed, hvor grænsen for objektiv sandhed er blevet udvisket af techgiganter. Offentlige kampagner og oplysning er ikke længere tilstrækkeligt til at modvirke de menneskelige og økonomiske omkostninger, som AI-misbrug allerede medfører. Den eneste løsning er, at regeringer verden over griber ind med hård regulering og tvinger techvirksomheder til at tage ansvar. Uden handling risikerer vi at miste tilliden til den fælles virkelighed – og det er en pris, vi ikke har råd til at betale.