Американцы всё чаще доверяют диагнозам ИИ вместо врачей — но советы ИИ опасны для здоровья

ИИ вместо врача: почему советы чатботов опасны для здоровья

Современные ИИ-чатботы, включая передовые модели, остаются крайне ненадёжными при выдаче медицинских рекомендаций. Об этом свидетельствуют результаты нового исследования, опубликованного в журнале JAMA Network Open.

Эксперимент: как ИИ справляется с диагностикой

Учёные протестировали 21 передовую языковую модель (LLM) на реалистичных симптомах, которые могли бы беспокоить пациентов. Результаты оказались тревожными:

• Более 80% ошибок — при нечётких симптомах, которые могут соответствовать нескольким заболеваниям.
• 40% ошибок — даже в случаях с чёткими данными, включая результаты анализов и физические осмотры.

Исследователи отмечают, что ИИ склонен «преждевременно останавливаться» на одном диагнозе, игнорируя другие возможные варианты. Это приводит к «слабой производительности» всех протестированных моделей.

«Несмотря на постоянные улучшения, готовые к использованию языковые модели пока не готовы для клинического применения без контроля. Дифференциальная диагностика — основа клинического мышления, и ИИ пока не способен её воспроизвести», — заявил Марк Сучи, соавтор исследования и заместитель председателя по инновациям в Massachusetts General Hospital.

Последствия для пациентов

Ошибки ИИ могут иметь катастрофические последствия. Например, если человек задаст чатботу вопрос о сыпи или внезапном кашле, он рискует получить неверную информацию или даже опасные рекомендации.

По данным недавнего опроса West Health-Gallup Center on Healthcare in America, каждый четвёртый взрослый американец (около 66 миллионов человек) уже обращается к ChatGPT и другим ИИ-чатботам за медицинскими советами. При этом:

• 14% респондентов (более 9 миллионов человек) полностью отказались от визита к врачу после консультации с ИИ.
• 27% заявили, что не хотят платить за визит к врачу.
• 14% не имеют такой возможности.
• Некоторые отметили нехватку времени или физические ограничения.

«Искусственный интеллект уже меняет то, как американцы получают медицинскую информацию, принимают решения и взаимодействуют с врачами. Системы здравоохранения должны идти в ногу с этими изменениями», — заявил Тим Лэш, президент West Health Policy Center.

Вывод: ИИ не заменит врача

Эксперты подчёркивают, что ИИ может быть полезен для поиска общей информации, но не для постановки диагнозов. Ошибки в медицинских советах могут привести к серьёзным последствиям, включая задержку в лечении или неправильное лечение.

Врачи остаются единственными специалистами, способными учитывать все нюансы состояния пациента и принимать взвешенные решения. Пока ИИ не сможет полностью воспроизвести «искусство медицины», полагаться на него в вопросах здоровья крайне рискованно.