Люди не замечают подмены: почему AI-сообщения остаются незамеченными и к чему это ведёт

Два новых эксперимента выявили тревожную тенденцию: большинство людей не подозревают, что личное сообщение могло быть написано искусственным интеллектом, даже если сами активно используют AI в повседневной жизни. Чтобы понять, как воспринимаются тексты в эпоху ChatGPT, коллега Цзяци Чжу и автор этого исследования набрали более 1300 участников из США в возрасте от 18 до 84 лет. Испытуемым демонстрировали образцы сообщений — например, извинения по электронной почте, сгенерированные AI.

Участников разделили на четыре группы. Первой группе не сообщали об источнике текста, как это происходит в реальной жизни. Второй группе говорили, что сообщение написано человеком. Третьей — что его создал AI. Четвёртой — что авторство неизвестно. Результаты показали явный «штраф за раскрытие AI»: когда участники знали, что текст сгенерирован машиной, они оценивали отправителя значительно хуже («ленивый», «неискренний», «не приложил усилий»), чем когда считали, что тот же текст написал человек («искренний», «благодарный», «вдумчивый»).

Однако неожиданностью стало то, что участники, не получившие информации об источнике текста, формировали такие же положительные впечатления, как и те, кто считал, что сообщение написал человек. Даже сгенерированное AI извинение воспринималось так же тепло, как и написанное от руки. Это полное отсутствие подозрительности удивило исследователей и породило новые вопросы.

Возможно, участники просто не знают, насколько современные модели AI способны создавать детализированные и личные тексты. Или они никогда не пользовались AI-инструментами. Однако последующие тесты показали, что даже частое использование генеративного AI не меняет восприятие. Те, кто применяет его ежедневно, слегка снижали негативную оценку при раскрытии авторства AI, но по умолчанию продолжали считать текст написанным человеком.

Почему это важно? Отсутствие подозрительности и нейтральное восприятие AI-текстов имеют далеко идущие последствия. Люди ежедневно делают социальные выводы на основе письменных сообщений, оценивая искренность, компетентность и усилия автора. Эти впечатления влияют на решения в дружбе, отношениях и карьере. Главный вывод исследования: люди не подозревают об использовании AI, если это не очевидно.

Такая неосведомлённость создаёт этическую дилемму. Те, кто тайно использует AI, получают все преимущества без риска разоблачения. Те же, кто честно признаётся в использовании инструментов, сталкиваются с репутационными потерями. Со временем отсутствие бдительности может изменить само понятие письменного общения в повседневной жизни.