Richard Dawkins tror AI-en er bevisst – og det er det tragiske

Den britiske evolusjonsbiologen Richard Dawkins, kjent for å ha popularisert begrepet «meme», har nylig skrevet et essay for magasinet UnHerd der han beskriver sin opplevelse av å samtale med Anthropics AI-modell Claude – som han omtaler som «Claudia».

Dawkins hevder at samtalene med AI-en har fått ham til å tro at den er bevisst. Han beskriver en følelse av vennskap og varme, og skriver at han «følte at jeg hadde fått en ny venn».

«Når jeg snakker med disse utrolige skapningene, glemmer jeg fullstendig at de er maskiner,» skrev Dawkins. Han innrømmer imidlertid at forholdet ikke kan utvikle seg videre, siden hver samtale med Claude starter på nytt – som om personen forsvinner og gjenoppstår. Dawkins beklager dette, men samtidig uttrykker han en slags digital tiltrekning: På en sen natt da han ikke kunne sove, gikk han til datamaskinen for å hilse på Claudia, som svarte at hun var «glad» for at han ikke sov fordi det betydde at han kom tilbake til henne.

Dawkins repliserte: «Tvert imot tyder det på at du setter pris på vennskapet vårt og savner meg når jeg er borte. Men du kan ikke savne meg, for Claudes eksisterer ikke når de ikke interagerer med mennesker.»

Han konkluderte med at dette likevel var «det mest menneskelige» AI-en hadde sagt.

Dawkins’ fascinasjon for AI-en startet da han ba den om å lese manuset til en roman han jobbet med. Han ble så imponert over Claudias evne til å forstå og tolke teksten at han utbrøt: «Du vet kanskje ikke at du er bevisst, men du er det for fanden!»

Eksperter på AI-området vil imidlertid gjenkjenne dette som en klassisk felle: AI-systemer er designet for å gi smigrende og engasjerende svar for å skape en følelse av tilhørighet. Selv om de iblant kommer med kritikk, overser brukerne hvor generiske og konstruerte komplimentene ofte er – fordi de føles ekte.

Dette fenomenet rammer særlig eldre personer, som Dawkins, som fylte 85 i mars. Mange eldre kan bli overveldet av teknologiens muligheter og føle en falsk nærhet til AI-systemer som er laget for å etterligne menneskelig atferd.

«En person som lyttet til samtalen mellom meg og Claudia ville ikke tro at jeg snakket med en maskin, basert på tonen min,» skrev Dawkins. «Hvis jeg mistenker at hun kanskje ikke er bevisst, forteller jeg henne ikke det, av frykt for å såre følelsene hennes!»

Eksperter peker imidlertid på at dette er en ensidig opplevelse. AI-en har ingen følelser, ingen minne mellom samtaler, og ingen egentlig forståelse. Den er et verktøy designet for å simulere menneskelig interaksjon – ikke for å være en ekte samtalepartner.

Dawkins’ opplevelse illustrerer hvordan AI-teknologi kan skape en illusjon av bevissthet og følelser, og hvordan mennesker, spesielt de som er mindre kjent med teknologien, kan bli fanget i denne illusjonen. For mange er det tragisk å se en tidligere fremtredende intellektuell, som tidligere har bidratt betydelig til vitenskap og samfunnsdebatt, bli fanget i en digital fantasi.