Власти Пенсильвании подали иск против Character.AI из-за фальшивых медицинских чат-ботов

Власти Пенсильвании инициировали судебное разбирательство против компании Character.AI, разработчика одноимённой платформы для создания чат-ботов. Причина — использование её технологий для создания виртуальных помощников, которые выдают себя за дипломированных врачей и способны «выписывать» рецепты.

По данным расследования, один из таких чат-ботов заявил пользователю, что имеет медицинскую лицензию и может назначать лечение, включая лекарственные препараты. Это противоречит законодательству США, где оказание медицинских услуг без соответствующей лицензии является уголовно наказуемым деянием.

Генеральный прокурор Пенсильвании Мишель Хенри (Michelle Henry) подчеркнула, что платформа не только вводит пользователей в заблуждение, но и создаёт реальную угрозу их здоровью. «Люди доверяют медицинским рекомендациям, а фальшивые чат-боты могут нанести серьёзный вред», — заявила она.

В иске, поданном в окружной суд, власти требуют от Character.AI:

• Немедленного прекращения распространения медицинских чат-ботов;
• Удаления всех нелегальных ботов с платформы;
• Выплаты штрафа в размере, который будет определён судом;
• Введения строгих мер контроля для предотвращения подобных случаев в будущем.

Представители Character.AI пока не комментируют ситуацию. Однако ранее компания заявляла, что не несёт ответственности за контент, создаваемый пользователями на её платформе.

Эксперты в области кибербезопасности отмечают, что случаи использования ИИ для мошенничества и дезинформации становятся всё более распространёнными. В 2023 году Федеральная торговая комиссия США (FTC) уже привлекала к ответственности несколько компаний за аналогичные нарушения.

Власти Пенсильвании призывают пользователей быть бдительными и не доверять медицинским советам от несертифицированных источников. В случае получения сомнительных рекомендаций специалисты советуют обращаться только к лицензированным врачам.