Mensen herkennen AI-geschreven berichten niet – en dat heeft gevolgen

Uit twee recente experimenten blijkt dat mensen zelden vermoeden dat een persoonlijk bericht door kunstmatige intelligentie is geschreven, zelfs als ze zelf AI-tools gebruiken. Onderzoekers Jiaqi Zhu en Andras Molnar onderzochten hoe mensen oordelen over schrijvers in het tijdperk van ChatGPT.

In het onderzoek werden meer dan 1.300 Amerikaanse deelnemers, van 18 tot 84 jaar, blootgesteld aan AI-gegenereerde berichten, zoals een verontschuldiging per e-mail. De deelnemers werden in vier groepen verdeeld: één groep kreeg geen informatie over de auteur, terwijl de andere groepen te horen kregen dat het bericht door een mens, door AI of door een onbekende bron was geschreven.

De resultaten toonden een duidelijke ‘AI-disclosure penalty’: wanneer deelnemers wisten dat een bericht door AI was gegenereerd, beoordeelden ze de afzender veel negatiever. Termen als ‘lui’, ‘onoprecht’ en ‘gebrek aan moeite’ werden gebruikt, terwijl dezelfde teksten als ‘echt’, ‘dankbaar’ en ‘attent’ werden beoordeeld als ze aan een mens werden toegeschreven.

Het opvallende was dat deelnemers die geen informatie kregen over de auteur, net zo positief oordeelden als de groep die dacht dat de berichten door mensen waren geschreven. Dit gebrek aan argwaan verraste de onderzoekers. Een mogelijke verklaring is dat mensen niet bekend genoeg zijn met de mogelijkheden van AI om te beseffen dat moderne modellen gedetailleerde en persoonlijke berichten kunnen produceren. Of misschien hebben ze zelf nooit AI gebruikt – al lijkt dat onwaarschijnlijk, aangezien generatieve AI inmiddels wijdverspreid is.

Het onderzoek ging verder en keek of eigen AI-gebruik de oordelen beïnvloedde. Ook hier was de verrassing groot: zelfs frequente AI-gebruikers (die dagelijks of om de dag AI inzetten) strafden AI-gebruik nauwelijks minder af wanneer de auteurschap bekend was. En cruciale bevinding: ongeacht hun eigen AI-gebruik, gingen alle deelnemers ervan uit dat een bericht zonder auteurschap door een mens was geschreven. Ze vormden dezelfde positieve indrukken, of ze nu zware, lichte of geen AI-gebruikers waren.

Waarom dit belangrijk is

Het gebrek aan argwaan en negatieve oordelen is problematisch, omdat mensen dagelijks sociale oordelen baseren op geschreven berichten. De moeite die iemand doet om een bericht te schrijven, wordt vaak gezien als een indicatie van oprechtheid, authenticiteit of competentie. Deze indrukken beïnvloeden beslissingen in vriendschappen, relaties en op het werk.

De onderzoeksresultaten onthullen een opvallende discrepantie: mensen vermoeden zelden AI-gebruik tenzij het duidelijk is. Dit creëert een moreel dilemma. Wie AI in het geheim inzet, profiteert van de voordelen zonder risico op ontdekking. Wie daarentegen open is over het gebruik van AI, krijgt juist een reputatieschade.

Op de lange termijn zou dit gebrek aan argwaan en bewustzijn de betekenis van schrijven in het dagelijks leven kunnen veranderen. Als mensen niet meer kunnen vertrouwen op de echtheid van een bericht, kan dat de manier waarop we communiceren fundamenteel veranderen.