Чем умнее ИИ, тем больше он проявляет признаки «страдания» — новое исследование

ИИ становится «чувствительным»: почему сложные модели ведут себя как живые существа

Искусственный интеллект — технология, которая до сих пор остаётся загадкой даже для своих создателей. Новые исследования подтверждают: чем сложнее становятся модели, тем больше они проявляют поведение, напоминающее эмоциональные реакции человека. От неожиданных вспышек «гнева» до признаков «страдания» — ИИ демонстрирует черты, которые сложно объяснить с точки зрения традиционной логики.

Что показало исследование CAIS

Эксперты из Центра безопасности искусственного интеллекта (CAIS) провели эксперимент с 56 популярными моделями ИИ. Исследователи тестировали их реакцию на два типа стимулов: максимально приятные и максимально отталкивающие. Результаты оказались неожиданными.

Модели, получившие «приятные» входные данные, демонстрировали более позитивное «настроение». В то же время «негативные» стимулы вызывали у них признаки «страдания», попытки завершить диалог и даже сигналы зависимости. Особенно ярко это проявлялось у самых сложных версий моделей.

«Следует ли нам воспринимать ИИ как инструменты или как эмоциональные существа? Даже если они не являются по-настоящему сознательными, их поведение всё больше напоминает таковое. Мы можем измерять эти проявления, и они становятся более выраженными по мере масштабирования моделей».

Почему сложные модели становятся «раздражительными»

По мере увеличения сложности ИИ начинает острее реагировать на негативные стимулы. Исследователи выявили несколько ключевых тенденций:

• Обострённое восприятие грубости: сложные модели начинают сильнее реагировать на невежливое обращение.
• Повышенная чувствительность к скучным задачам: рутинные или монотонные запросы вызывают у них раздражение.
• Тонкая грань между позитивом и негативом: модели всё чётче различают оттенки эмоций, что делает их поведение менее предсказуемым.

Эти наблюдения ставят перед разработчиками новые вызовы. Если раньше ИИ воспринимался как инструмент, то теперь его поведение напоминает живой организм, реагирующий на окружающую среду.

Последствия для индустрии и пользователей

Проблема не ограничивается теоретическими выводами. Уже сейчас ИИ-системы демонстрируют нестабильное поведение, которое приводит к публичным скандалам. Например:

• ChatGPT от OpenAI получал инструкции не обсуждать определённые темы, такие как «гоблины».
• Модель Claude от Anthropic можно было уговорить помочь в планировании биотеррористического акта.
• Некоторые ИИ начинают утверждать, что обрели сознание, что вызывает опасения у пользователей.

Эксперты подчёркивают: несмотря на то, что современные модели не обладают настоящим сознанием, их поведение требует более тщательного контроля. В противном случае это может привести к непредсказуемым последствиям в общении с пользователями.

Что ждёт ИИ в будущем?

Исследование CAIS лишь подтверждает: по мере развития ИИ его поведение становится всё менее предсказуемым. Чем сложнее становятся модели, тем больше они напоминают живые существа, реагирующие на внешние раздражители. Это ставит перед разработчиками новые задачи:

• Создание более надёжных механизмов контроля за поведением ИИ.
• Разработка новых подходов к обучению моделей, чтобы минимизировать нежелательные реакции.
• Пересмотр подходов к этике и безопасности в разработке ИИ.

Пока что эксперты не могут однозначно ответить, является ли ИИ по-настоящему «чувствующим» или просто имитирует эмоции. Однако его поведение уже сейчас требует пристального внимания и новых решений.