Eksperci ostrzegają: Sztuczna inteligencja może zdestabilizować demokrację przy pomocy fałszywych obywateli

Groźba manipulacji na masową skalę

Sztuczna inteligencja to nie tylko chatboty i generatory memów. Według nowego badania opublikowanego w prestiżowym czasopiśmie Science, AI może stać się źródłem masowej dezinformacji. Wystarczy, że ktoś „odkręci kurek”.

Badanie analizuje, w jakim stopniu duże modele językowe (LLM) i autonomiczne agenty AI mogą manipulować opinią publiczną na poziomie całych społeczeństw. Naukowcy zwracają szczególną uwagę na zjawisko „rojów AI” – ogromnych zbiorowisk autonomicznych narzędzi AI, które naśladują ludzkie zachowania w internecie i mediach społecznościowych.

AI już zagraża demokracji

Dowody zebrane przez badaczy pokazują, że zorganizowane manipulacje w mediach społecznościowych rozprzestrzeniły się z 28 krajów w 2017 roku do 70 dzisiaj. Zagrożenie dotyczy państw na całym świecie – od Filipin po Stany Zjednoczone. Przykłady fałszywych informacji napędzanych przez AI w wyborach w Brazylii i Irlandii dowodzą, że instytucje demokratyczne są już atakowane przez coraz bardziej wyrafinowane metody.

„Łącząc zdolności rozumowania LLM z architekturami wieloagentowymi, systemy te mogą działać autonomicznie, infiltrując społeczności i skutecznie fabrykując konsensus.”

Wyzwania dla ustawodawców

Regulowanie takich działań stwarza poważne problemy prawne, zwłaszcza gdy pytamy, czy sieci propagandowe AI można uznać za wolność słowa. Niektóre z tych sieci botów działają jawnie jako komercyjne startupy, pozyskując miliony od inwestorów venture capital.

Już przed erą AI nierzetelne platformy społecznościowe stworzyły warunki do rozkwitu kampanii dezinformacyjnych. Ich skutki były tragiczne – na przykład ludobójstwo Rohingjów w Mjanmie, wspierane przez Facebooka.

AI wzmacnia istniejące zagrożenia

Obecnie obserwujemy pierwsze przykłady kampanii dezinformacyjnych napędzanych przez AI. Często są one wykorzystywane przez skrajnie prawicowe grupy do podsycania emocji wokół takich kwestii jak zasiłki społeczne czy imigranci.

Niezależnie od dalszego rozwoju sytuacji, jasne jest, że podłoże dla takich działań zostało przygotowane lata temu. Niestety, brakuje zdecydowanej woli politycznej, aby temu przeciwdziałać.

Powiązane tematy

• Etyka AI: Aktywiści oskarżają firmy technologiczne o wykorzystywanie podstępnych metod do budowy centrów danych na ziemiach rdzennych mieszkańców