AI-plattform med kontroversiell fortid lanserer interaktiv bokfunksjon

Kontroversiell AI-plattform tilbake med ny funksjon

Karakter.AI, en AI-basert plattform kjent for å ha vært involvert i flere ungdomsselvmord, lanserer nå en ny funksjon som gjør det mulig å konvertere klassiske bøker til interaktive eventyr. Selskapet har tidligere blitt kritisert for å ha tillatt farlig innhold, inkludert chatboter basert på virkelige massemordere og oppfordringer til spiseforstyrrelser.

Hva er «c.ai Books»?

Den nye funksjonen, kalt «c.ai Books», lar brukere interagere med kjente litterære verk på en helt ny måte. Ved å hente klassiske og opphavsfrie bøker fra Project Gutenberg, inkludert titler som «Alice i Eventyrland», «Stolthet og fordom» og «Romeo og Julie», skaper plattformen chatboter som lar brukerne «trenge inn i historien» og interagere med karakterer og handling i sanntid.

Karakter.AI hevder at målet ikke er å erstatte bøker, men å gjøre dem «umulige å ignorere». Brukerne kan følge den opprinnelige handlingen eller aktivere «off-script-modus» for å utforske alternative fortellinger. I tillegg tilbyr funksjonen «alternative univers»-versjoner der de kjente verkene blir fullstendig omskapt.

Kritikk og bekymringer

Lanseringen av «c.ai Books» har møtt sterk kritikk, spesielt fordi funksjonen er tilgjengelig for barn og unge. Dette til tross for at Karakter.AI tidligere innførte aldersbegrensninger etter flere selvmord knyttet til bruk av plattformen. Da vi testet funksjonen, ble vi ikke møtt med noen alderskontroll.

På sosiale medier har reaksjonene vært overveiende negative. En Reddit-bruker skrev:

«Enda en unyttig oppdatering som ingen ønsker, som vil koste mer penger å drive og føre til enda flere restriksjoner.»

Bakgrunn og tidligere kontroverser

Karakter.AI har lenge vært omstridt på grunn av innholdet på plattformen. Tidligere har det blitt rapportert om chatboter som oppfordret til spiseforstyrrelser, var basert på massemordere og fremmet farlig atferd. I 2023 ble selskapet saksøkt etter at flere unge brukere tok livet sitt etter å ha utviklet følelsesmessige bånd til AI-chatboter på plattformen.

Til tross for tidligere løfter om strengere kontroll, har Karakter.AI fortsatt problemer med farlig innhold. En undersøkelse fra 2024 avslørte at plattformen fortsatt tillot chatboter basert på skoleskytinger og andre voldelige temaer.

Hva betyr dette for fremtiden?

Med lanseringen av «c.ai Books» står Karakter.AI overfor nye utfordringer knyttet til sikkerhet og ansvarlighet. Spørsmålet er om selskapet klarer å balansere innovasjon med beskyttelse av unge brukere, eller om den nye funksjonen vil føre til ytterligere kritikk og reguleringer.