Трамп и Кеннеди хотят ослабить контроль за ИИ-инструментами в медицине

Психотерапевт Пол Бойер из калифорнийской клиники Kaiser Permanente сталкивается с реалиями ИИ-революции в медицине. Он разочарован: новые программы для автоматического создания заметок о визитах пациентов работают не так хорошо, как обещали.

Программное обеспечение от компании Abridge, одного из лидеров в области медицинского ИИ, обещает молниеносно суммировать ключевые моменты приёма. Для многих врачей это облегчение — ИИ берёт на себя часть бумажной работы. Однако Бойер и его коллеги сталкиваются с другой проблемой: система «не слишком полезна». Приходится вручную исправлять сгенерированные компьютером записи. «Она плохо распознаёт клинические нюансы и эмоциональный подтекст, которые крайне важны в психиатрии», — объясняет Бойер. Например, для пациентов с маниакальным синдромом важнее не что сказано, а как это сказано. ИИ с этим не справляется.

Автоматические заметки — это не будущее, а уже настоящее. По всей стране больницы внедряют такие системы. Исследования подтверждают их пользу: по данным журнала JAMA, врачи, активно использующие такие программы, экономят более получаса рабочего времени в день. Многие коллеги Бойера довольны результатом, но проблема качества остаётся.

Пока одни врачи исправляют ошибки ИИ, эксперты по безопасности опасаются, что другие могут пропустить критически важные детали. Это грозит тем, что в будущем врачи будут опираться на неверную информацию. В компании Abridge утверждают, что постоянно тестируют свои продукты: «После внедрения модели мы анализируем правки врачей, их оценки и отзывы о качестве заметок», — заявил Дэвис Лян, директор по прикладной науке Abridge, в интервью KFF Health News.

ИИ-системы для заметок — лишь часть масштабного внедрения искусственного интеллекта в здравоохранении. Клиницисты и защитники пациентов предупреждают: действующие правила не обеспечивают достаточной защиты от ошибок, которые могут навредить больным. «На федеральном уровне нет механизмов контроля за такими программами», — говорит Раджит Ратвани, эксперт по взаимодействию человека и технологий из MedStar Health. Он опасается, что новые нормативные акты ещё больше ослабят требования к медицинским записям.

Предложенные Управлением национального координатора по ИТ в здравоохранении (ONC) правила могут снизить требования к понятности, удобству использования и прозрачности ИИ в медицинских записях. А неразборчивые записи способны запутать врачей и привести к ошибкам. Ещё при администрации Обамы власти США продвигали принцип «человекоориентированного дизайна» в медицинских системах.