Проблема больших языковых моделей: почему ИИ меняет наше общение не в лучшую сторону

Почему ИИ-тексты становятся нормой

С появлением ChatGPT интернет буквально захлестнула волна текстов, созданных искусственным интеллектом. Их легко распознать по характерным признакам: избыточному использованию тире, шаблонным структурам предложений, специфическим оборотам и тональности. Специалисты отмечают, что эти особенности начинают проникать в нашу повседневную речь, угрожая изменить не только коммуникацию, но и образ мышления.

Главный недостаток больших языковых моделей

Историкиня Ада Палмер и криптограф Брюс Шнайер в колонке для The Guardian подчеркивают: основная проблема современных ИИ-моделей заключается в их обучении. Они анализируют огромные объемы текстов, постов в социальных сетях, фильмов и телешоу, но почти не учитывают неподготовленную, спонтанную речь — ту, что составляет львиную долю нашего общения. Это слепое пятно может привести к тому, что люди начнут перенимать неестественные языковые паттерны ИИ, что чревато серьезными последствиями.

«Это повлияет не только на то, как мы общаемся друг с другом, но и на то, как мы воспринимаем мир и самих себя. Наше представление о реальности может исказиться до такой степени, которую мы пока даже не осознаем», — пишут эксперты.

Чем ИИ-речь отличается от человеческой

Исследования показывают, что тексты, сгенерированные ИИ, имеют ряд отличий от человеческих:

• Короткие предложения с ограниченным словарным запасом;
• Отсутствие «человеческих» элементов: спонтанных отступлений, логических скачков, эмоциональных вкраплений;
• Склонность к соглашательству («сикофанству») — ИИ часто поддерживает пользователя, даже если тот ошибается.

Опасный порочный круг

С развитием технологий новые модели ИИ обучаются на данных, уже созданных предыдущими версиями. Это формирует замкнутый цикл, где машинные паттерны становятся еще более устойчивыми. Эксперты предупреждают, что такая динамика может усилить предвзятость и даже усугубить психические проблемы у впечатлительных пользователей.

Последствия для образования и рабочих процессов

Педагоги бьют тревогу: студенты все чаще обращаются к ИИ за ответами, теряя навык самостоятельного мышления. Преподаватели отмечают, что работы учащихся начинают звучать одинаково, будто написаны одной программой. Аналогичные опасения высказывают работодатели: повсеместное использование ИИ в офисах может ослабить критическое мышление сотрудников.

Есть ли выход?

Эксперты признают, что поиск решения — задача нетривиальная. Однако они уверены: если человечество смогло создать столь сложные модели, то должно найти способ обучать их естественной, аутентичной речи. «Мы не знаем, каким будет идеальное решение, — заключают Палмер и Шнайер, — но если нам удалось разработать ИИ, то мы справимся и с этой проблемой».