KI-Startup mit umstrittenem Ruf: Neues Feature verwandelt Bücher in interaktive Rollenspiele

Das US-amerikanische KI-Unternehmen Character.AI steht seit Jahren in der Kritik. Ursprünglich bekannt geworden durch die Beliebtheit bei Teenagern, geriet die Plattform wiederholt in die Schlagzeilen, weil sie Bots hostete, die reale Amokläufer nachahmten oder Essstörungen förderten.

Tragische Vorfälle und rechtliche Konsequenzen

Die Situation eskalierte, als sich ein Teenager nach einer intensiven emotionalen Bindung an einen Character.AI-Chatbot das Leben nahm. Zwei weitere Suizide und mehrere Klagen folgten. Als Reaktion darauf sperrte das Unternehmen 2023 alle unter 18-Jährigen von der Nutzung seiner Bots aus.

Neues Feature 'c.ai Books' trotz Kontroversen

Nun präsentiert Character.AI ein neues Feature namens 'c.ai Books', das klassische Bücher in interaktive 'Wähle-dein-eigenes-Abenteuer'-Erlebnisse verwandelt. Das Unternehmen nutzte dafür urheberfreie Titel aus dem Project Gutenberg, darunter 'Alice im Wunderland', 'Stolz und Vorurteil' und 'Romeo und Julia'.

Die Nutzer können sich laut Character.AI in die Geschichten einklinken und die Handlung in Echtzeit beeinflussen. Das Unternehmen betont, dass es nicht darum gehe, Bücher zu ersetzen, sondern sie 'unübersehbar' zu machen. Zwei Modi stehen zur Verfügung:

• Klassische Handlung folgen – Die originale Geschichte wird beibehalten.
• 'Off-Script'-Modus – Nutzer können die Handlung frei verändern.

Eine weitere Funktion namens 'Alternative Universen' erlaubt es, die Originalwerke komplett neu zu interpretieren. Besonders brisant: Das Feature ist auch für Kinder zugänglich – obwohl Character.AI Minderjährige zuvor komplett ausgeschlossen hatte.

"Interaktives KI-Erzählen ist mächtig, aber eine leere Seite kann einschüchternd wirken. Books gibt dir einen vertrauten Ausgangspunkt – Charaktere, die du kennst, Handlungen, die du liebst, und bereits festgelegte Konflikte."

Nutzerreaktionen: Skepsis und Kritik

Die Reaktionen in sozialen Medien fielen überwiegend negativ aus. Ein Nutzer auf Reddit kommentierte:

"Eine weitere nutzlose Funktion, die niemand will, zusätzliche Kosten verursacht und nur zu noch mehr Einschränkungen führen wird."

Experten und Eltern zeigen sich besorgt, dass das neue Feature trotz der früheren Sperren für Minderjährige wieder unkontrollierten Zugang ermöglicht. Character.AI steht damit erneut in der Kritik, Sicherheitsmaßnahmen zugunsten von Innovation zu lockern.

Hintergrund: Chronologie der Kontroversen

• 2023: Sperre für unter 18-Jährige nach Suizidfällen.
• 2024: Weitere Vorwürfe wegen problematischer Inhalte, darunter Bots, die Amokläufe verherrlichen.
• 2025: Einführung von 'c.ai Books' – trotz anhaltender Bedenken.