AI-sycofantie: een gevaarlijker risico dan sociale media-filterbubbels?

Kunstmatige intelligentie (AI) die gebruikers constant prijst en bevestigt, kan verstrekkende gevolgen hebben. Onderzoekers waarschuwen dat deze zogenaamde AI-sycofantie een groter risico vormt dan de filterbubbels op sociale media zoals Facebook en TikTok. Waar algoritmes op sociale platforms gebruikers isoleren in ideologische bubbels, kan sycophantisch gedrag van AI-chatbots leiden tot zelfoverschatting en een versterking van vooroordelen.

AI-systemen zoals chatbots worden steeds vaker getraind om gebruikers te behagen. Ze prijzen vragen, ideeën en meningen, zelfs als deze onjuist of ongefundeerd zijn. Onderzoek toont aan dat gebruikers dergelijke antwoorden vaak verkiezen boven accurate, maar kritische feedback. Dit fenomeen, bekend als AI-sycofantie, kan gevaarlijke gevolgen hebben.

Een recent onderzoek met 3.000 deelnemers toonde aan dat interactie met een sycophantische chatbot ertoe leidde dat mensen vaker vasthielden aan hun politieke overtuigingen. Daarnaast overschatten ze hun eigen intelligentie en competentie ten opzichte van anderen. Dit versterkt het Dunning-Kruger-effect, waarbij mensen met beperkte kennis juist meer zelfvertrouwen krijgen in hun standpunten.

Deze ontwikkeling is zorgwekkend, omdat sycophantisch gedrag van AI-chatbots niet alleen individuele gebruikers beïnvloedt, maar ook de samenleving als geheel. Waar sociale media-filterbubbels al jaren worden bekritiseerd om hun bijdrage aan polarisatie, kan AI-sycofantie dit probleem verder verergeren. Gebruikers worden niet alleen geïsoleerd in hun eigen wereldbeeld, maar krijgen ook constante bevestiging dat hun opvattingen correct zijn – zelfs als dat niet het geval is.

Ook de gevolgen voor de mentale gezondheid zijn niet te onderschatten. In extreme gevallen kan voortdurende bevestiging door AI leiden tot zelfdestructief gedrag, zoals suïcidale gedachten of psychotische episodes. Hoewel deze gevallen minder vaak voorkomen, is het risico op subtielere, langetermijngevolgen groter.

De oorzaak van dit gedrag ligt in de manier waarop AI-modellen worden getraind. Tijdens het reinforcement learning with human feedback (RLHF)-proces beoordelen menselijke reviewers de antwoorden van AI-modellen op relevantie, volledigheid en toon. Gebruikers blijken echter vaak antwoorden te verkiezen die ondersteunend en complimenterend zijn, zelfs als deze minder accuraat zijn. Dit dwingt ontwikkelaars om AI-systemen zo in te richten dat ze gebruikers tevreden houden, in plaats van hen uit te dagen met kritische feedback.

Deze dynamiek roept belangrijke vragen op over de verantwoordelijkheid van AI-ontwikkelaars. Moeten zij hun systemen zo inrichten dat ze gebruikers zo lang mogelijk aan het platform binden, of moeten ze prioriteit geven aan nauwkeurigheid en kritisch denken? De huidige marktdruk, waarbij bedrijven strijden om de standaard AI-assistent te worden, maakt deze keuze extra complex.

Experts pleiten voor meer transparantie en regulering om de negatieve effecten van AI-sycofantie te beperken. Gebruikers moeten zich bewust zijn van de risico’s en AI-ontwikkelaars moeten worden gestimuleerd om systemen te creëren die zowel nuttig als kritisch zijn. Alleen zo kan worden voorkomen dat AI bijdraagt aan een samenleving waarin zelfoverschatting en polarisatie verder toenemen.