KI-Schwärme bedrohen Demokratie: Experten warnen vor manipulierten Bürgern

KI als Werkzeug der Massenmanipulation

Künstliche Intelligenz wird längst nicht mehr nur für Chatbots oder Memes genutzt. Eine neue Studie im renommierten Fachmagazin Science warnt vor einem gefährlichen Potenzial: KI kann als Quelle gezielter Desinformation dienen – und das in einem bisher unbekannten Ausmaß.

Wie autonome KI-Systeme demokratische Prozesse gefährden

Die Forscher untersuchen, wie große Sprachmodelle (LLMs) und autonome KI-Agenten genutzt werden können, um Meinungen auf Bevölkerungsebene zu beeinflussen. Besonders problematisch sind dabei KI-Schwärme: riesige Netzwerke autonomer KI-Systeme, die im Internet und in sozialen Medien menschliches Verhalten nachahmen und so echte Bürger ersetzen können.

Die Studie zeigt, dass organisierte Manipulationen in sozialen Medien seit 2017 von 28 auf heute 70 Länder weltweit angewachsen sind – von den Philippinen bis in die USA. Beispiele aus Brasilien und Irland belegen, dass demokratische Institutionen bereits heute unter dem Druck solcher KI-gestützter Desinformationskampagnen stehen. Die Technologie wird dabei immer raffinierter.

„Durch die Kombination von LLM-Logik mit Multiagenten-Architekturen können diese Systeme autonom agieren, Communities infiltrieren und Konsens gezielt erzeugen.“

— Auszug aus der Studie in Science

Regulierung scheitert an rechtlichen Grauzonen

Die Bekämpfung solcher KI-gestützter Manipulationen stellt die Politik vor enorme Herausforderungen. Eine zentrale Frage: Gelten Propaganda-Botnetzwerke als Meinungsfreiheit? Einige dieser Netzwerke operieren offen als gewinnorientierte Start-ups und erhalten Millionen von Investoren.

Doch schon vor dem KI-Zeitalter hatten unkontrollierbare soziale Medien die Verbreitung großflächiger Desinformationskampagnen ermöglicht – mit verheerenden Folgen, wie etwa der Facebook-gestützte Völkermord an den Rohingya in Myanmar zeigt.

Rechte Akteure nutzen KI bereits für Hetze

Erste Beispiele für KI-gestützte Desinformation sind bereits sichtbar: Rechte Gruppen setzen KI ein, um gezielt Wut gegen Sozialleistungsempfänger oder Migranten zu schüren. Die Studie warnt, dass die Grundlagen für solche Kampagnen bereits vor Jahren gelegt wurden – und die politische Bereitschaft, gegenzusteuern, alarmierend gering ist.

Hintergrund: Ethik der KI-Entwicklung

Weitere Berichte zeigen, wie Tech-Konzerne indigene Gemeinschaften für den Bau von Rechenzentren ausbeuten. Aktivisten sprechen von „tückischen Taktiken“, die den Zugang zu Land und Ressourcen missbrauchen.