Почему пользователи не доверяют ИИ-поиску и как вернуть доверие

Проблема доверия к ИИ-поиску: данные, которые тревожат разработчиков

По данным опроса более 2200 американцев, 65% взрослого населения США использовали ИИ-поиск за последние полгода. Однако только 15% респондентов доверяют его результатам «полностью». Разрыв между популярностью и доверием становится ключевой проблемой для индустрии.

«Садоводство» вместо прозрачности: почему пользователи чувствуют себя в ловушке

Исследование, проведённое Yelp совместно с Morning Consult, выявило основную претензию пользователей: ИИ-поиск часто воспринимается как «закрытый сад», где сложно проверить достоверность информации. Более половины опрошенных (51%) жалуются на отсутствие возможности верифицировать данные. 63% регулярно сверяют результаты ИИ с проверенными источниками — новостными сайтами или платформами отзывов. 57% реже обращаются к таким инструментам именно из-за недоверия к источникам.

Ранее основной проблемой ИИ была «галлюцинация» — уверенные, но ошибочные ответы. Сегодня большинство платформ решили эту техническую задачу. Однако остаётся другая проблема: пользователи не знают, как проверить правильность ответа. Когда платформы скрывают ссылки, цитаты и реальные источники, они строят стены, а не мосты.

Что нужно, чтобы вернуть доверие: требования пользователей

Исследование показало чёткие предпочтения пользователей. 72% хотят, чтобы ИИ всегда указывал источники информации. 66% требуют доказательств в виде ссылок на проверенные платформы (например, отзывы или новости). 52% считают, что визуальные доказательства — фотографии, скриншоты или «до/после» — повысят доверие.

Пользователи не против ИИ как такового. Они против «чёрных ящиков». Они хотят, чтобы ИИ обрабатывал большие объёмы данных, но при этом предоставлял «чеки» — подтверждения достоверности. Среднестатистический пользователь не использует ИИ для технических задач, а обращается к нему за бытовыми решениями: где поужинать с семьёй (57% делают это ежемесячно) или кого пригласить починить трубу.

Ключевые требования к ИИ-поиску для местных бизнесов:

• 76% пользователей считают обязательным указание источников информации;
• 73% доверяют только ответам с реальными отзывами клиентов;
• 76% хотят видеть несколько независимых источников для подтверждения.

Почему местный бизнес — это тест на доверие к ИИ

Местные компании динамичны: меняются меню, цены, отзывы, даже персонал. Пользователи понимают, что информация устаревает, и хотят актуальные данные. ИИ, который не обновляет источники или не показывает свежие отзывы, теряет доверие. Например, если ИИ рекомендует ресторан с закрытым заведением или мастера с отрицательными отзывами, пользователь вряд ли обратится к такому инструменту снова.

«Пользователи не против ИИ. Они против отсутствия прозрачности. Если ИИ не показывает, откуда взята информация, он воспринимается как ненадёжный советчик», — отмечают эксперты.

Вывод: прозрачность как ключ к доверию

В эпоху, когда ИИ становится основным инструментом для принятия решений, доверие — это валюта. Пользователи готовы доверять ИИ, но только если он предоставляет доказательства. Те платформы, которые откроют «ворота» к источникам, отзывам и актуальным данным, получат преимущество. Те, кто продолжит скрывать информацию, рискуют остаться за пределами доверия.