사이버 공격 AI 보안 AI 위협 제로데이 취약점 구글 보안

구글은 AI를 활용한 사이버 공격으로 인해 자체 개발 소프트웨어의 미발견 취약점이 드러났다고 밝혔다. 이 공격은 ‘제로데이’ 취약점을 악용한 것으로, 공격자는 AI 모델을 통해 취약점을 발견하고 무기로 활용했을 가능성이 높다는 분석이다.

AI 기반 공격의 심각성

구글 연구진은 2단계 인증을 우회할 수 있는 ‘제로데이’ 취약점을 AI가 발견해 악용한 첫 사례라고 밝혔다. 공격자는 이 취약점을 이용해 인기 있는 오픈소스 웹 기반 시스템 관리 도구에 접근할 수 있었으며, 사용자 아이디와 비밀번호만 확보한다면 2단계 인증까지 우회할 수 있었다.

구글은 “범죄자 threat actor가 대규모 공격 계획을 세웠으나, 우리 측의 사전 탐지로 미연에 방지했다”고 밝혔다. 이 공격은 AI가 보안 위협으로 활용된 첫 사례라는 점에서 사이버 보안 전문가들의 우려를 자아내고 있다.

AI 보안 위협의 확산

구글 연구진은 “이것은 빙산의 일각에 불과하다”며 “AI 기반 공격은 앞으로 훨씬 더 빈번해질 것”이라고 경고했다. 특히 Anthropic의 ‘Claude Mythos’ 모델이 지난달 공개되면서 AI 보안 위협에 대한 우려가 커지고 있다. 이 모델은 사용자 요청에 따라 주요 운영체제와 웹 브라우저의 제로데이 취약점을 찾을 수 있다고claimed 했고, 일부 기업과 정부 기관에만 공개됐다.

AI의 코드 생성 능력은 보안 위협으로도 이어지고 있다. 구글 연구진은 공격에 사용된 악성코드가 LLM(대형 언어 모델) 훈련 데이터의 특징인 과도한 문서화(docstring), 허위 정보, 구조화된 Python 형식 등을 포함하고 있다고 분석했다.

AI 보안 위협의 특징

  • AI가 생성한 코드는 과도한 주석(docstring)과 허위 정보를 포함할 수 있음
  • LLM 훈련 데이터의 특징인 구조화된 코드 형식을 보임
  • AI가 보안 취약점을 찾는 속도가 빨라지면서 공격 가능성도 증가

“AI는 보안 위협과 방어 모두에 영향을 미칠 수 있는 양날의 검입니다. AI 기반 공격이 점점 더 정교해지면서 기업과 정부 기관은 이에 대한 대비가 시급합니다.”
— 구글 보안 연구진

향후 대응 방안

구글은 AI 기반 공격에 대한 사전 탐지 시스템을 강화하고, AI 모델의 보안 위협 가능성을 지속적으로 모니터링할 계획이다. 또한, AI 보안 위협에 대한 국제적 협력과 규제 강화가 필요하다는 의견이 제기되고 있다.

출처: Futurism
지하수 3천만 갤런 무단 사용…데이터센터 '수도꼭지 관리' 허점 드러나
← 이전

지하수 3천만 갤런 무단 사용…데이터센터 '수도꼭지 관리' 허점 드러나

 ‘에브리씽 이즈 크랩’ 모든 도전 과제 해제 방법 완벽 가이드
다음 →

‘에브리씽 이즈 크랩’ 모든 도전 과제 해제 방법 완벽 가이드