Google зафиксировала первую в истории атаку с использованием ИИ для обнаружения уязвимости нулевого дня

Google зафиксировала первую атаку с использованием ИИ для обнаружения уязвимости нулевого дня

Компания Google сообщила о первой в истории кибератаке, в которой злоумышленники использовали искусственный интеллект для выявления ранее неизвестной уязвимости в программном обеспечении. Об этом говорится в отчете исследователей компании, опубликованном в понедельник.

Как проходила атака

По данным Google, хакеры использовали модель ИИ для обнаружения и эксплуатации уязвимости нулевого дня — дефекта в программном обеспечении, о котором не знали даже разработчики. Такие уязвимости представляют особую опасность, так как позволяют злоумышленникам атаковать системы до того, как разработчики успевают выпустить исправление.

В данном случае уязвимость позволяла обходить двухфакторную аутентификацию в популярном инструменте для администрирования веб-систем с открытым исходным кодом. Однако для успешной атаки злоумышленникам требовалось знать имя пользователя и пароль жертвы. Несмотря на это, эксперты отмечают, что возможность обхода двухфакторной аутентификации могла бы иметь катастрофические последствия.

«Киберпреступники планировали массовую эксплуатацию уязвимости, но наше проактивное обнаружение помешало им реализовать план», — говорится в отчете Google.

Первый случай использования ИИ для обнаружения уязвимости

Исследователи подчеркивают, что это первый зафиксированный случай, когда хакеры использовали ИИ для обнаружения и эксплуатации уязвимости нулевого дня. По словам Джона Халквиста, главы группы Google Threat Intelligence, это лишь «верхушка айсберга».

«Мы считаем, что это только начало. Проблема, вероятно, гораздо масштабнее, и мы видим лишь первые доказательства», — заявил Халквист в интервью New York Times.

Рост угрозы ИИ в кибербезопасности

Недавний анонс модели Anthropic Claude Mythos, способной находить уязвимости нулевого дня в основных операционных системах и браузерах, лишь усилил опасения экспертов. Компания ограничила доступ к модели, предоставив ее только избранным компаниям и государственным структурам.

Эксперты предупреждают, что способность ИИ генерировать и анализировать код может быть использована не только в благих целях. В отчете Google отмечается, что вредоносное ПО, созданное хакерами, содержало характерные признаки, свойственные ИИ: обилие аннотаций, «галлюцинации» в коде и структурированный формат, напоминающий обучающие данные больших языковых моделей.

Что ждет кибербезопасность в будущем?

Эксперты призывают компании и правительства готовиться к новым вызовам, связанным с использованием ИИ в киберпреступности. По мере развития технологий угрозы будут только усиливаться, и традиционные методы защиты могут оказаться недостаточными.