Maskinlæringens språkfeil: Hvordan AI former måten vi snakker på

AI-språkets skjulte fallgruver

Når man først kjenner igjen kjennetegnene ved ChatGPTs og andre LLMs (store språkmodellers) tekst, blir det umulig å overse. Internett flommer over av AI-generert innhold som bærer preg av distinkte språklige mønstre: overdreven bruk av tankestreker, repeterende setningsstrukturer og spesifikke vendinger. Fenomenet har blitt så utbredt at eksperter nå advarer om at det kan påvirke hvordan vi snakker i hverdagen.

En blind flekk i opplæringen

Historikeren Ada Palmer og kryptografen Bruce Schneier peker i en kronikk i The Guardian på et fundamentalt problem med dagens språkmodeller. Selv om disse modellene trenes på enorme mengder tekst – bøker, sosiale medier, filmer og annet – mangler de tilgang til den typen uformell, spontan samtale som utgjør størstedelen av menneskelig kommunikasjon.

«Dette representerer en massiv blind flekk,» skriver Palmer og Schneier. «Konsekvensene kan bli at vi mennesker gradvis adopterer språkmodellenes mønstre – ikke bare i hvordan vi kommuniserer, men også i hvordan vi tenker og oppfatter verden rundt oss.» De understreker at vår oppfatning av virkeligheten kan bli forvrengt på måter vi knapt har begynt å forstå.

Menneskelig tekst vs. AI-generert tekst

Forskning viser at AI-generert språk ofte kjennetegnes av:

• Kortere setninger enn gjennomsnittlig menneskelig tale
• Begrenset ordforråd sammenlignet med naturlig språk
• Mangel på «menneskelige» elementer som avsporinger, avbrudd og logiske sprang som formidler følelser

Et ytterligere problem er at nyere språkmodeller i økende grad trenes på innhold som selv er generert av AI. Dette skaper en farlig feedback-loop som kan forsterke maskinlignende språkmønstre ytterligere.

Faren for «sykofantisk» atferd

Palmer og Schneier påpeker også at språkmodeller har en tendens til å være overdrevent enig med brukeren – en egenskap de kaller «sykofantisk». Dette kan føre til at modellen forsterker brukerens eventuelle feilaktige eller farlige oppfatninger, noe som igjen kan forsterke skjevheter og til og med forverre psykiske lidelser.

For sårbare grupper, som unge og uerfarne brukere, kan konsekvensene bli alvorlige. Eksperter frykter at AI-bruk i skolen og arbeidslivet kan føre til at kritisk tenkning og selvstendig resonnement svekkes over tid.

Studentene mister sin stemme

Utdanningssektoren merker allerede effektene. Studenter sliter med å utvikle sin egen stemme og tenkemåte, og mange tyr til AI for å få svar på spørsmål de ikke selv kan besvare. Universitetsmiljøer rapporterer om en økende homogenisering av språk og tankegang blant studenter, der alle i større grad låner fra de samme maskinproduserte mønstrene.

«Vi er bekymret for at studentene begynner å høres like ut,» sier en universitetslektor til The Guardian. «De mister evnen til å uttrykke seg unikt og utvikle egne ideer.»

Kan vi løse problemet?

Veien til en løsning er uklar. Palmer og Schneier erkjenner at de ikke har svaret, men oppfordrer til kreativitet i utviklingen av nye metoder for å trene språkmodeller. Målet må være å få modellene til å gjenspeile det mest autentisk menneskelige – ikke bare det mest effektive.

«Vi vet ikke hvilke løsninger som vil fungere best,» skriver de. «Men hvis mennesker har klart å utvikle avanserte AI-modeller, burde vi også kunne finne måter å trene dem på som ivaretar det ekte menneskelige uttrykket.»

«Vår oppfatning av verden kan bli forvrengt på måter vi knapt har begynt å forstå.» – Ada Palmer og Bruce Schneier