Folk oppdager ikke AI-genererte personlige meldinger – her er konsekvensene

Folk stoler blindt på AI-genererte meldinger

To nye eksperimenter avslører at folk sjelden mistenker at en personlig melding er skrevet av kunstig intelligens, selv når de selv benytter AI-verktøy. Studien, utført av forskere ved Universitetet i California sammen med kollega Jiaqi Zhu, involverte over 1 300 deltakere i alderen 18 til 84 år.

Deltakerne ble vist eksempler på AI-genererte meldinger, som en unnskyldning sendt via e-post. De ble delt inn i fire grupper: En gruppe fikk ingen informasjon om hvem som hadde skrevet meldingen, mens de andre ble fortalt at teksten var skrevet av et menneske, av AI, eller at kilden var ukjent. Resultatene viste en tydelig «AI-avsløringstraff»: Når deltakerne visste at meldingen var AI-generert, ble avsenderen vurdert langt mer negativt – som «lat», «uærlig» og «manglende innsats».

Men det overraskende funnet var at deltakerne som ikke fikk noen informasjon om opphavet, vurderte meldingene like positivt som de som trodde teksten var skrevet av et menneske. En AI-generert unnskyldning ble altså oppfattet som like ekte som en menneskeskreven.

AI-brukere er like naive som ikke-brukere

Forskerne undersøkte også om egen erfaring med AI påvirket folks oppfatning. Resultatet var overraskende: Selv hyppige AI-brukere straffet AI-avsløringer lite sammenlignet med ikke-brukere, men ingen grupper var mer skeptiske når opphavet ikke ble avslørt. Enten de brukte AI daglig eller aldri, antok de fleste at teksten var skrevet av et menneske.

Dette tyder på at folk flest fortsatt ikke er klar over hvor avanserte dagens AI-modeller er når det gjelder å produsere personlige og detaljerte tekster.

Hvorfor dette har betydning

Mangel på skepsis og negative assosiasjoner er viktig fordi vi stadig dømmer mennesker basert på tekst. Mottakerne av en melding ser på skriveinnsatsen som et uttrykk for ærlighet, autentisitet og kompetanse. Disse inntrykkene påvirker avgjørelser innen vennskap, dating og arbeidsliv.

Funnene avdekker imidlertid en stor uoverensstemmelse: Folk mistenker sjelden AI-bruk med mindre det er åpenbart. Dette skaper et moralsk dilemma:

• Hemmelig AI-bruk: De som benytter AI i det skjulte kan nyte godt av fordelene uten risiko for å bli avslørt.
• Ærlig AI-bruk: De som innrømmer bruken, blir straffet med dårligere omdømme.

Over tid kan manglende skepsis og bevissthet endre hva vi legger i «ekte» kommunikasjon i hverdagen.

Fremtidens kommunikasjon i skyggen av AI

Forskerne understreker at funnene reiser viktige spørsmål om tillit og autentisitet i en tid der AI blir stadig mer integrert i hverdagen. Hvis folk ikke klarer å skille mellom menneske- og AI-generert tekst, kan det føre til misforståelser og urettferdige bedømmelser.

Studien peker også på behovet for større bevissthet rundt AI-bruk, både blant produsenter og mottakere av tekst. Uten dette kan vi stå overfor en fremtid der tillit og personlig integritet blir svekket av ukontrollert teknologi.