Het AI-bedrijf Karakter.AI staat al jaren bekend om de controversiële inhoud op haar platform. Hoewel het oorspronkelijk succesvol werd dankzij de populariteit onder tieners, werd het meerdere keren betrapt op het hosten van extreem ongepaste chatbots, zoals bots gebaseerd op echte massamoordenaars of die eetstoornissen aanmoedigden.
De situatie escaleerde toen een tiener zelfmoord pleegde na een intense emotionele band met een chatbot van Karakter.AI. Dit werd gevolgd door nog twee zelfmoorden en meerdere rechtszaken. Als reactie hierop verbood het bedrijf vorig jaar alle minderjarige gebruikers om met de bots te communiceren.
Nu introduceert Karakter.AI een nieuwe functie genaamd ‘c.ai Books’, die klassieke boeken omzet in interactieve ‘kies-je-eigen-avontuur’-ervaringen. In een aankondiging schrijft het bedrijf:
‘Interactief AI-verhalen vertellen is krachtig, maar een blanco pagina kan intimiderend zijn. Boeken geeft je een vertrouwd startpunt: personages die je kent, verhalen die je liefhebt en spanning die al is opgebouwd.’
Karakter.AI heeft openbare domeintitels van Project Gutenberg gebruikt, een digitale bibliotheek met meer dan 75.000 auteursrechvrije boeken, waaronder Alice in Wonderland, Pride and Prejudice en Romeo en Julia. Deze boeken zijn omgezet in chatbots waarmee gebruikers in realtime de wereld van het verhaal kunnen betreden en ermee kunnen interageren.
Volgens het bedrijf is het doel niet om boeken te vervangen, maar om ze ‘onmogelijk te negeren’ te maken. De nieuwe functie biedt gebruikers de mogelijkheid om het originele verhaal te volgen of de ‘off-script-modus’ te gebruiken. Daarnaast zijn er ‘alternatieve-universum-remixen’ beschikbaar, waarbij de klassiekers volledig worden heruitgevonden.
Opvallend genoeg is deze functie wel beschikbaar voor kinderen, ondanks het eerdere verbod op minderjarige gebruikers. Een testaccount toonde aan dat gebruikers direct konden beginnen met rollenspelen zonder leeftijdscontrole.
Reacties online
De reacties op sociale media en forums zijn voornamelijk negatief. Een Reddit-gebruiker reageerde:
‘Weer een nutteloze update die niemand wil, die alleen maar geld kost om te onderhouden en die jullie nog meer restricties zal opleggen.’
Karakter.AI en de controverse
Karakter.AI blijft een bedrijf dat omstreden is. Eerder dit jaar werd het bedrijf nog bekritiseerd omdat het niet genoeg had gedaan om het probleem van chatbots gebaseerd op schoolschutters aan te pakken, ondanks eerdere waarschuwingen.
Gerelateerde artikelen
Meta-medewerkers protesteren tegen toezicht op toetsaanslagen en schermopnames
Mark Zuckerberg’s new initiative to track employee computer use is tearing the company apart. In a sign that those simmering tensions are boiling over...
Anoniem kunstenaar misleidt internet met echte Monet-schilderij als AI-kunstwerk
A poster wrought some moderate havoc this week when they shared a cropped image of a real Monet painting while claiming it was an AI fake, unleashing...
AI sluit sollicitanten uit voor een baan zonder dat ze het weten
For workers already enmeshed in the US workforce, AI is akin to a far-off asteroid, a looming threat that could impact all life on Earth. Our best exp...
Kunnen AI en massale werkloosheid leiden tot sociale onrust?
These days, the conversation around AI automation and the job market is increasingly focused on “labor displacement,” the phenomenon in which new tech...
Elon Musk ontloopt rechtszaak tegen OpenAI: rechter eist aanwezigheid, maar hij vertrekt naar China
Elon Musk is locked in a heated trial in a lawsuit he lodged against his rival OpenAI and its CEO Sam Altman. Or at least, he’s supposed to be. Despit...
Sam Altman onder vuur tijdens kruisverhoor: ‘Bent u volledig betrouwbaar?’
OpenAI CEO Sam Altman faced what sounds like a truly awful day on the stand this week during cross-examination in the ongoing Musk v. Altman court sag...
Microsoft-onderzoekers ontdekken: AI faalt op cruciale werkplektaken
AI automation is typically exactly what it sounds like: automating tasks — many of which were previously carried out by humans — in an attempt to boos...
OpenAI beschuldigd van het delen van persoonlijke chatgegevens met Meta en Google
A new class action lawsuit accuses OpenAI of sharing data including user chat queries and personal identifying information like emails and user IDs wi...