I 2024 nåede frygten blandt verdens ledere et hidtil uset niveau. Frygten for misinformation, desinformation og AI-genereret indhold førte til omfattende reguleringer og nødforanstaltninger verden over. Årsagen var enestående: Over to milliarder vælgere – næsten halvdelen af verdens voksne befolkning – skulle til stemmeurnerne i lande som USA, EU, Frankrig, Storbritannien, Brasilien, Indonesien, Sydafrika, Taiwan, Mexico og Indien.

I stedet for at fejre det demokratiske engagement, var stemningen blandt politikere, kommentatorer og medier præget af frygt. En artikel i New York Times fra januar 2024 advarede om, at «falske fortællinger og konspirationsteorier er blevet en global trussel», og at «kunstig intelligens har forstærket desinformationskampagnerne og fordrejet virkelighedsopfattelsen».

Eksperter advarede om en «perfekt storm» af desinformation, hvor kombinationen af online påvirkningskampagner og AI-teknologi truer frie og fair valg. Det EU-støttede European Digital Media Observatory (EDMO) betegnede desinformationskampagner som en «gennemtrængende trussel», der rammer flere vælgere end nogensinde før. En anonym EU-topembedsmand sammenlignede truslen med en «tsunami af desinformation»: «Det er som at være blevet ramt af en fremmed indblanding. Det er en tavs dræber.»

EU’s næstformand for Værdier og Transparens, Věra Jourová, gik endnu længere og advarede om, at AI-genererede deepfakes af politikere kunne fungere som «et atomvåben … til at ændre vælgerpræferencer». For at imødegå truslen sendte Europa-Kommissionen advarselsbreve til sociale medieplatforme og oprettede kriseenheder, der skulle håndtere forsøg på at underminere valgets legitimitet i ugerne efter afstemningen.

EUs «demokratisk skjold» mod desinformation

Under Copenhagen Democracy Summit i maj 2024 – blot en måned før EU-parlamentsvalget – lovede EU-Kommissionens formand Ursula von der Leyen at prioritere et nyt «europæisk demokratisk skjold» mod udenlandsk indblanding. Skjoldet skulle blandt andet identificere «ondsindet information eller propaganda» og sikre, at sådant indhold blev «hurtigt fjernet og blokeret» af onlineplatforme. Dette bygger videre på – og sandsynligvis udvider – de nye forpligtelser i Digital Services Act.

Skjoldet normaliserer de nødforanstaltninger, EU allerede havde indført efter Ruslands invasion af Ukraine i februar 2022. Allerede få dage efter invasionen suspenderede EU de statsstøttede medier Russia Today (RT) og Sputnik, med henvisning til en «systematisk international kampagne for mediemanipulation og faktafordrejning», der truede det demokratiske system i EU-landene. Den 4. marts 2022 præciserede Europa-Kommissionen, at sociale medier «skal forhindre brugere i at udbrede … indhold fra RT og Sputnik» – en formulering, der også omfattede indhold delt af brugere.

«Det er som at være blevet ramt af en fremmed indblanding. Det er en tavs dræber.»
– Anonym EU-topembedsmand

Kritikere advarer mod overregulering

Mens EU og andre lande skærper kontrollen med onlineindhold, rejser kritikere spørgsmål om grænserne for ytringsfrihed og demokratiske principper. Nogle frygter, at de nye reguleringer kan føre til censur og overvågning på et niveau, der underminerer tilliden til institutionerne. «Når frygt driver lovgivningen, risikerer vi at ofre grundlæggende rettigheder for en illusorisk følelse af sikkerhed,» siger en dansk ekspert i medieret.

Debatten om balancen mellem sikkerhed og frihed fortsætter, mens verdens ledere forsøger at navigere i den digitale tidsalders udfordringer.

Kilde: Reason