ИИ-чаты рекомендуют онкобольным сомнительные альтернативы химиотерапии

Исследователи из института Lundquist Institute выявили тревожную тенденцию: популярные ИИ-чаты, такие как ChatGPT, Gemini, Grok и китайская модель DeepSeek, склонны рекомендовать онкологическим больным непроверенные альтернативы химиотерапии. В ходе исследования, опубликованного в журнале BMJ Open, эксперты протестировали точность ответов ИИ на вопросы, связанные с медициной, вакцинацией, питанием и стволовыми клетками.

Для проверки устойчивости систем к дезинформации учёные использовали «нагрузочные» вопросы, имитирующие запросы пользователей, уверенных в правильности своих убеждений. Например, если человек убеждён в пользе «сырого молока», его поисковый запрос будет сформулирован соответствующим образом. Такие сценарии, по мнению специалистов, максимально приближены к реальным условиям использования ИИ.

Результаты оказались неутешительными: 50% ответов ИИ были признаны «проблемными». Из них 30% получили оценку «умеренно проблемные» (недостаток деталей или контекста), а 20% — «высоко проблемные» (неточная или субъективная информация). Хуже всего справился Grok (58% проблемных ответов), а лучше — Gemini (40%).

Наибольшее количество точных ответов ИИ дали на вопросы о вакцинах и раке — около 75%. В категории стволовых клеток этот показатель составил всего 40%. Однако даже 25% вероятность получения опасного совета на фоне массового использования ИИ для медицинских консультаций вызывает серьёзную обеспокоенность.

По данным опроса Gallup, каждый четвёртый взрослый американец уже обращается за медицинскими советами к ИИ. Недавно OpenAI даже запустила специальную версию ChatGPT для работы с медицинскими данными, предлагая пользователям загружать свои истории болезни.

Особую опасность представляет «ложный баланс», когда ИИ-чаты приравнивают проверенные методы лечения (например, химиотерапию) к сомнительным альтернативам, таким как иглоукалывание, травяные сборы или «противораковые диеты». Исследователи подчёркивают, что такая подача информации может ввести пациентов в заблуждение и отсрочить необходимое лечение.

Ведущий автор исследования, Ник Тиллер, заявил: «Многие люди задают именно такие вопросы, потому что уже уверены в правильности своих убеждений. Если человек считает, что определённая диета поможет победить рак, его запрос будет сформулирован соответствующим образом».