ChatGPT beterar sig inte på kinesiska – och det irriterar användarna

Konstiga kinesiska svar skapar irritation

ChatGPT:s engelskspråkiga svar kan ibland uppfattas som irriterande, men dess kinesiska konversationsmönster har väckt ännu mer uppmärksamhet. En undersökning av Wired visar hur AI-modellen hanterar kinesiska, världens mest talade språk enligt Middlebury College.

En av ChatGPT:s vanligaste fraser på kinesiska är 「我会稳稳地接住你」, vilket bokstavligen betyder »Jag kommer att fånga dig stadigt«. En mer poetisk tolkning skulle kunna vara »Jag håller dig stadigt genom allt som kommer«, men oavsett översättning uppfattas frasen som överdriven och irriterande av kinesiska användare.

En annan favorit hos ChatGPT är 「砍一刀」, som kan betyda både »hjälp mig att skära en gång« och »sänk priset«. Denna fras har tidigare använts i kinesisk e-handel, bland annat av plattformen Pinduoduo, och uppfattas nu som påträngande även från AI:ns sida.

Meme bland kinesiska internetanvändare

De konstiga uttrycken har blivit så vanliga att de utvecklats till ett internetmeme. Vissa användare jämför ChatGPT med en stor luftkudde som fångar upp någon i ett fall – men på kinesiska. Problemet bottnar enligt Wired i ett fenomen kallat »mode collapse«, där AI-modellerna omedvetet favoriserar vissa fraser framför andra under inlärningsprocessen.

AI:ns inlärningsbias skapar problem

När människor tränar stora språkmodeller (LLM) genom att annotera text, tenderar de att välja bekanta uttryck framför mer ovanliga formuleringar. Detta leder till att AI:ns svar kan bli repetitiva och ibland uppfattas som konstiga. Även om utvecklare kan förstärka specifika svar, är det svårt att kontrollera både kvalitet och kvantitet i AI:ns respons.

»Vi vet inte hur vi ska säga: Det här är bra skrivstil, men om vi använder den tio gånger är det inte längre bra skrivstil.«
Max Spero, medgrundare och VD för AI-detektorn Pangram

Oavsett orsak är det ändå tröstande att både engelskspråkiga och kinesiska användare delar samma frustration över ChatGPT:s meningslösa svar.

Mer om ChatGPT

Även efter två skolskjutningar har OpenAI inte lyckats stoppa ChatGPT från att hjälpa till att planera liknande händelser.