Kan du upptäcka en AI-genererad bok?

AI-genererade texter blir alltmer sofistikerade och svåra att skilja från mänskliga texter. Men finns det ändå tecken som kan avslöja en AI-skrivare? Enligt författaren Imogen West-Knights finns det vissa mönster som kan ge AI:n bort, som överanvändning av metaforer och parallellismer som inte riktigt hänger ihop. Ändå är det inte alltid lätt att avgöra, särskilt när det handlar om kortare texter där AI:s kännetecken inte alltid framträder tydligt.

Problemet fördjupas av att AI-modeller tränas på både bra och dålig mänsklig text. Därför kan det vara svårt att avgöra om en text är skriven av en människa eller en AI, särskilt om författaren tenderar att använda många adjektiv eller repetitiva strukturer. För att undersöka hur bra AI har blivit på att imitera mänskligt skrivande genomförde författaren och journalisten Vauhini Vara ett experiment med sina närmaste vänner.

Experimentet: Kan vänner känna igen Varas stil?

Vara ville utmana uppfattningen att AI genererar språk på ett helt annorlunda sätt än människor. Hon bad forskaren Tuhin Chakrabarty, som tidigare undersökt liknande frågor, att träna en AI-modell på hennes tidigare böcker och journalistiska texter. AI:n fick sedan generera text som lät som något från en kommande, ännu opublicerad roman av Vara. Dessa texter blandades sedan med autentiska utdrag från hennes tidigare verk och skickades till hennes vänner för granskning.

Resultatet var förvånande: Vännerna hade svårt att skilja på de AI-genererade texterna och de mänskliga. I vissa fall föredrog de till och med AI:s versioner framför de riktiga. Experimentet visar att AI:s förmåga att imitera mänskligt språk har utvecklats långt och att gränsen mellan mänsklig och AI-genererad text blir alltmer suddig.

Varför är det svårt att upptäcka AI-text?

Enligt Vara beror svårigheten på flera faktorer:

• Träning på mänsklig text: AI-modeller lär sig av både bra och dålig mänsklig text, vilket gör det svårt att avgöra källan.
• Korta texter: I kortare texter framträder inte alltid AI:s kännetecken, som repetitiva strukturer eller överanvändning av adjektiv.
• Mänskliga författares stil: Om en människa tenderar att använda många metaforer eller adjektiv kan AI:n lätt imitera denna stil och därmed bli svår att upptäcka.

Experimentet belyser en växande utmaning för förläggare, redaktörer och läsare. Med AI:s snabba utveckling blir det allt svårare att avgöra om en text är mänsklig eller maskinell. Samtidigt öppnar det också för nya frågor om upphovsrätt, äkthet och litterär kvalitet i en tid där AI spelar en allt större roll inom skrivandet.

"Det finns en missuppfattning om att AI genererar språk på ett sätt som är helt annorlunda från hur människor skriver. Men i verkligheten kan AI lära sig att imitera mänsklig stil så väl att det blir svårt att skilja åt."
Vauhini Vara, författare och journalist

För att lyssna på hela diskussionen om AI och mänskligt skrivande kan du höra avsnittet av Today, Explained på din favoritpodcastplattform, inklusive Apple Podcasts, Pandora och Spotify.