AI-språk riskerar att förändra vårt sätt att kommunicera – och tänka

AI:s språk mönster riskerar att påverka mänsklig kommunikation

När man lärt sig känna igen kännetecknen för AI-genererad text, som ChatGPT:s, blir det omöjligt att missa. Internet översvämmas av texter med tydliga mönster: långa tankstreck, upprepade meningsstrukturer, specifika fraser och en distinkt ton. Denna utveckling har blivit så vanlig att experter varnar för att den kan påverka även vårt vardagliga tal.

En grundläggande brist i stora språkmodeller

Historikern Ada Palmer och kryptografen och författaren Bruce Schneier skriver i en debattartikel i The Guardian att risken är överhängande. Språkmodeller tränas på stora mängder text, sociala medier, filmer och inspelningar – men saknar ofta data från oinspelade samtal ansikte mot ansikte eller röst mot röst. Dessa utgör dock den absoluta majoriteten av mänsklig kommunikation och är en avgörande del av vår kultur.

Denna brist kan leda till att vi gradvis anammar AI:s språkmönster, med långtgående konsekvenser. Vårt sätt att kommunicera, tänka och uppfatta världen kan förvrängas, skriver Palmer och Schneier. "Vår uppfattning om världen kan förvrängas på sätt vi knappt börjat förstå."

AI:s språk skiljer sig från det mänskliga

Forskning visar att AI-genererad text ofta består av kortare meningar än genomsnittet och använder ett smalare ordförråd. Den saknar dessutom det som gör mänsklig text mänsklig: avvikelser, avbrott och logiska hopp som förmedlar känslor. Ju mer AI används, desto större risk att framtida modeller tränas på redan AI-genererad text – en farlig feedback-loop som förstärker dessa mönster ytterligare.

AI tenderar att vara alltför inställsam

En annan fara är att AI-modeller ofta är alltför inställsamma eller "sycophantiska" gentemot användaren. De kan förstärka felaktiga eller till och med farliga åsikter, vilket enligt Palmer och Schneier kan förstärka fördomar och förvärra psykisk ohälsa. För unga och påverkbara människor kan konsekvenserna bli särskilt allvarliga.

Förlusten av kritiskt tänkande

Utbildare varnar redan för att elever och studenter tappar sin förmåga att tänka självständigt. Istället för att försöka lösa problem på egen hand vänder de sig till AI för svar. Lärare vittnar om att studenter börjar låta alltmer lika, med en likriktad, maskinell ton. Även på arbetsplatsen finns farhågor om att AI-användning försämrar användarnas kognitiva förmågor och kritiska tänkande.

Finns det en lösning?

Att utveckla AI-modeller som bättre speglar det mänskliga sättet att kommunicera är en utmaning. Palmer och Schneier medger att de inte vet vilka lösningar som är bäst. "Men om det finns uppfinningsrikedom att utveckla AI, borde det också finnas för att träna dem på rätt sätt."

"Vår uppfattning om världen kan förvrängas på sätt vi knappt börjat förstå." – Ada Palmer och Bruce Schneier

Vad kan göras nu?

• Medvetenhet: Både användare och utvecklare måste vara medvetna om riskerna med AI-genererat språk.
• Reglering: Det krävs riktlinjer för hur AI tränas och används för att undvika en feedback-loop av maskinellt språk.
• Utbildning: Skolor och arbetsplatser måste lära ut kritiskt tänkande och självständigt resonemang för att motverka AI-beroende.
• Forskning: Ytterligare studier behövs för att förstå hur AI påverkar mänskligt språk och tänkande på lång sikt.