AI-svärmar riskerar att underminera demokratin med falska medborgare

AI som vapen mot demokratin

AI är inte bara chattbotar och memegeneratorer. En ny studie publicerad i tidskriften Science visar hur stora språkmodeller (LLM) och autonoma AI-verktyg kan användas för att systematiskt manipulera opinioner på befolkningsnivå. Forskarna varnar specifikt för fenomenet AI-svärmar – massiva nätverk av autonoma AI-agenter som imiterar mänskligt beteende online för att sprida desinformation.

Utbredd manipulation redan idag

Enligt forskarna har organiserad manipulation på sociala medier ökat från 28 länder 2017 till 70 länder idag. Exempel inkluderar Brasilien och Irland, där AI-driven desinformation redan påverkat valprocesser. Faran ligger i att dessa system blir alltmer sofistikerade och svåra att upptäcka.

"Genom att kombinera LLM:s resonemangsförmåga med fleragentsarkitekturer kan systemen koordinera sig själva, infiltrera samhällen och effektivt fabricera konsensus", varnar forskarna i studiens abstract.

Lagstiftningens svåra avvägningar

Att reglera mot sådan manipulation är komplicerat. Frågor uppstår om propaganda-botnät verkligen kan klassas som yttrandefrihet. Vissa av dessa nätverk drivs öppet som vinstdrivande företag och lockar investeringar från riskkapitalister.

Problemet är inte nytt. Redan innan AI:s intåg skapade oansvariga sociala medieplattformar förutsättningar för storskaliga desinformationskampanjer – med förödande konsekvenser, som Facebooks roll i folkmordet på rohingyerna i Myanmar.

AI-genererad desinformation redan i bruk

Vi ser redan exempel på hur AI används för att sprida desinformation, ofta genom högerextrema aktörer som skapar ilska kring välfärdsberoende eller invandrare. Forskarna varnar för att utvecklingen bara kommer att accelerera om inget görs.

"Vägen till denna situation lades för år sedan, och det finns alarmerande lite politisk vilja att vända utvecklingen", säger experterna.

Relaterat: Teknikjättar anklagas för exploatering av urfolksmark

Läs också: Aktivister anklagar teknikföretag för att använda skumma metoder för att bygga datacenter på urfolks marker.