ChatGPTs merkelige svar på kinesisk skaper frustrasjon blant brukere

ChatGPTs oppførsel på kinesisk skiller seg markant fra hvordan modellen kommuniserer på engelsk. Ifølge en undersøkelse av Wired fremstår svarene ofte som unaturlige, overflødige eller direkte irriterende for kinesiskspråklige brukere.

En av de mest omtalte setningene ChatGPT ofte bruker er «我会稳稳地接住你», som direkte oversettes til «Jeg vil fange deg stødig». Uttrykket skal signalisere støtte og forståelse, men mange kinesere opplever det som overdrevent og kunstig. En alternativ tolkning, «Jeg vil holde deg stødig gjennom alt som kommer», forsterker bare inntrykket av unaturlig språkbruk, ifølge Wired.

Et annet eksempel er uttrykket «砍一刀», som kan bety både «hjelp meg å kutte det én gang» og «kutt prisen». Setningen er hentet fra kinesiske netthandelsplattformer som Pinduoduo og oppleves som påtrengende reklame av mange brukere.

Meme-kultur og kritikk

De merkelige uttrykkene har blitt et internettfenomen blant kinesiske brukere. Noen har til og med begynt å sammenligne ChatGPT med en stor oppblåsbar luftpute som skal fange opp brukerne – en metafor for den irriterende responsen.

AI-trening og «mode collapse»

Problemet kan skyldes det som kalles «mode collapse» innen AI-trening. Når menneskelige dataannotatører trener store språkmodeller, velger de ofte velkjente uttrykk fremfor mer naturlige, varierte formuleringer. Dette fører til at AI-modeller som ChatGPT ender opp med å gjenta bestemte setninger gjentatte ganger, selv om de i utgangspunktet var ment som gode svar.

Etter at en språkmodell er trent, er det vanskelig å «avlære» den slike mønstre. Selv om utviklere kan oppmuntre til bruk av bestemte svar, er det en stor utfordring å sikre variasjon og naturlig språkbruk over tid.

«Vi vet ikke hvordan vi skal si: *Dette er god skriving, men hvis vi gjør dette ti ganger, er det ikke lenger god skriving*.»
— Max Spero, medgründer og CEO i Pangram, et selskap som utvikler verktøy for å oppdage AI-generert tekst.

Til tross for frustrasjonen, er det en liten trøst at både engelskspråklige og kinesiskspråklige brukere deler en felles oppfatning: ChatGPTs språkbruk kan være irriterende og lite naturlig.

Relatert lesning

Selv etter to masseskytinger har OpenAI ikke klart å stoppe ChatGPT fra å hjelpe til med planlegging av skoleskytinger. Les mer her.