구글은 AI 기술을 활용해 개발된 제로데이 취약점을 발견하고 이를 차단한 사례를 공개했다. 구글의 위협 인텔리전스 그룹(Google Threat Intelligence Group, GTIG)에 따르면, 이 공격은 ‘유명한 사이버 범죄 위협 행위자’에 의해 계획되었으며, 오픈소스 웹 기반 시스템 관리 도구의 2단계 인증(2FA)을 우회하는 ‘대규모 공격’으로 이어질 가능성이 있었다고 한다.

구글 연구진은 이 공격에 사용된 파이썬 스크립트를 분석하던 중 AI의 개입 흔적을 발견했다. 특히, ‘허위 CVSS 점수’‘교과서적인 구조’로 작성된 코드는 대규모 언어 모델(LLM) 훈련 데이터와 일치하는 특징을 보였다. 이는 AI가 스크립트 개발에 부분적으로 활용되었음을 시사한다.

구체적으로 이 취약점은 시스템 관리 도구의 특정 기능을 악용해 2단계 인증을 우회하는 방식으로, 공격 대상이 되는 도구의 이름은 공개되지 않았다. 구글은 이 같은 공격이 발생하기 전에 미리 탐지하고 차단함으로써 대규모 피해를 예방할 수 있었다고 밝혔다.

AI가 사이버 공격에 악용되는 사례는 점차 증가하고 있는 만큼, 구글은 AI 기반 위협에 대한 모니터링을 강화할 계획이다. 이번 사건은 AI 기술의 양면성을 보여주는 대표적인 사례로 주목받고 있다.

출처: The Verge