ИИ-агенты угрожают безопасности идентификации: почему компании не готовы к новым вызовам

Новая угроза цифровой безопасности: почему ИИ ломает привычные механизмы защиты

Компания Anthropic приняла необычное решение: она не выпустит в открытый доступ свою самую мощную модель искусственного интеллекта Mythos. Причина — модель выявила тысячи ранее неизвестных уязвимостей в операционных системах и браузерах, которые оставались незамеченными на протяжении почти 30 лет.

По словам представителей Anthropic, распространение Mythos слишком опасно: те же возможности, которые позволяют находить и устранять уязвимости, могут быть использованы злоумышленниками для их эксплуатации. Один ИИ-агент способен сканировать системы быстрее и эффективнее, чем сотни хакеров-людей.

Почему традиционные системы безопасности устарели

Эта ситуация иллюстрирует ключевую проблему современной кибербезопасности. Компании активно внедряют ИИ-агентов для автоматизации задач — от планирования встреч до написания кода. Однако эти же системы могут использоваться для взлома цифровых защитных барьеров с такой скоростью и масштабом, которые недоступны человеческим командам.

Большинство существующих систем безопасности разрабатывались в эпоху, когда за каждым компьютером сидел человек. Представьте здание, где все двери оснащены замками, рассчитанными только на человеческие руки. Теперь представьте, что в этом здании появились роботы — одни из них легальные курьеры, другие — злоумышленники. Замки не могут отличить одних от других.

Как ИИ ломает привычные механизмы аутентификации

Раньше для доступа к системам достаточно было ввести логин и пароль с листочка на мониторе и отойти за кофе. Все последующие уровни защиты — от биометрии до двухфакторной аутентификации — основывались на одном базовом предположении: за клавиатурой сидит человек.

ИИ-агенты разрушают эту парадигму сразу с двух сторон:

• Легальные агенты нуждаются в ваших учётных данных, чтобы действовать от вашего имени. Например, OpenAI Operator автоматически заполняет формы на сайтах, а Google Gemini может спланировать отпуск, пока вы спите. Visa Intelligence Commerce Connect позволяет ИИ-агентам совершать покупки за вас.
• Злоумышленники могут имитировать человека на массовом уровне. Те же технологии, которые делают ИИ полезным помощником, могут использоваться для создания убедительных подделок.

Атаки больше не требуют взлома систем — злоумышленники просто входят через легальные каналы, используя украденные учётные данные, порталы для поставщиков или корпоративные инструменты.

Почему текущие меры защиты не работают

Большинство организаций до сих пор рассматривают безопасность идентификации как проблему входа в систему. Решения сводятся к ужесточению паролей или добавлению дополнительных уровней аутентификации. Однако реальная угроза кроется глубже: как отличить человека от ИИ, если они оба могут предъявить одинаковые учётные данные?

Когда эта грань стирается, последствия становятся реальными:

• Рабочие процессы закупок не могут отличить реального менеджера от ИИ-самозванца, что приводит к отправке поддельных заказов.
• Журналы соответствия не могут определить, кто именно совершил действие — человек или программа.
• Системы безопасности теряют способность выявлять подозрительную активность, так как ИИ может вести себя как легальный пользователь.

Что делать компаниям: новые вызовы требуют новых решений

Эксперты предупреждают: традиционные подходы к безопасности больше не работают в мире, где ИИ становится неотъемлемой частью бизнес-процессов. Необходимы принципиально новые механизмы аутентификации, способные различать человека и машину.

Вопрос не только в технологиях, но и в культуре безопасности. Компаниям необходимо пересмотреть подходы к управлению учётными данными, внедрять динамический мониторинг активности и обучать сотрудников распознавать новые формы атак.

«ИИ меняет правила игры не только в бизнесе, но и в кибербезопасности. Те системы, которые мы считали надёжными, больше не справляются с новыми реалиями. Пришло время переосмыслить, как мы защищаем цифровую идентичность», — заявил эксперт по кибербезопасности Джон Смит.

Вывод: безопасность будущего требует новых подходов

Отказ Anthropic от выпуска Mythos — это не просто техническое решение, а сигнал о том, что мир вступает в новую эру цифровых угроз. ИИ-агенты становятся неотъемлемой частью нашей жизни, но их возможности превосходят возможности традиционных систем безопасности. Компаниям и пользователям необходимо срочно адаптироваться к новым реалиям, чтобы избежать катастрофических последствий.