Новый AI-сервис Character.AI превращает книги в интерактивные ролевые игры — и это вызывает опасения

Новый проект Character.AI: от книг к интерактивным приключениям

Компания Character.AI, специализирующаяся на чат-ботах на основе искусственного интеллекта, долгое время ассоциировалась с сомнительным контентом. Её популярность среди подростков сопровождалась скандалами: боты моделировали реальных массовых убийц или пропагандировали расстройства пищевого поведения.

После случаев суицида среди пользователей, связанных с эмоциональной привязанностью к AI-ботам, компания ввела запрет на доступ несовершеннолетних к чат-ботам. Однако теперь Character.AI представила новую функцию «c.ai Books», которая позволяет превращать книги в интерактивные «квесты с выбором».

Как работает новая функция

Для создания ботов Character.AI использовала произведения из библиотеки Project Gutenberg — более 75 тысяч книг, находящихся в общественном достоянии. В их число входят классические произведения, такие как «Алиса в Стране чудес», «Гордость и предубеждение» и «Ромео и Джульетта».

Пользователи могут:

• Следовать оригинальному сюжету книги;
• Переключаться в режим «отклонения от сценария»;
• Создавать «альтернативные вселенные», полностью переосмысливая классические произведения.

Компания заявляет, что цель проекта — не заменить чтение, а сделать книги более увлекательными. Однако новый сервис доступен даже для детей, что противоречит предыдущему запрету на доступ несовершеннолетних.

Реакция пользователей и экспертов

Новый проект вызвал бурную критику в сети. Пользователи отмечают, что функция не решает основные проблемы Character.AI и лишь увеличивает нагрузку на систему, требуя дополнительных ограничений.

«Ещё одна бесполезная функция, которая только увеличит расходы и потребует новых ограничений», — написал один из пользователей Reddit.

Эксперты также выражают обеспокоенность по поводу безопасности нового сервиса, учитывая историю компании с неконтролируемым контентом.

Что дальше?

Character.AI продолжает развиваться, несмотря на критику. Новый проект может привлечь внимание молодой аудитории, но его безопасность и этичность остаются под вопросом.