AI 에이전트의 급부상으로 인한 디지털 신원 보안의 새로운 위기

AI가 발견한 30년간 숨겨진 보안 취약점

안트로픽(Anthropic)은 최근 자사 최강 AI 모델 '마이토스(Mythos)'를 공개하지 않기로 결정했다. 마이토스는 주요 운영체제와 웹 브라우저에 숨어 있던 수천 개의 미발견 소프트웨어 취약점을 발견했는데, 이 중 일부는 무려 30년 가까이 방치되어 있었다. 안트로픽은 이 모델이 보안 취약점을 찾는 동시에 악용될 위험도 크다고 판단했다. AI 에이전트 한 대가 수백 명의 해커보다 더 빠르고 지속적으로 시스템을 공격할 수 있기 때문이다.

기존 보안 시스템의 한계: '인간을 위한 문'의 시대는 끝났다

기업들은 AI 에이전트를 자율 비서로 활용하기 위해 경쟁하고 있지만, 이same AI 시스템은 인간의 능력을 넘어서는 속도로 보안을 위협할 수 있다. 기존 보안 모델은 '키보드 뒤에 사람이 앉아 있다'는 전제 하에 설계되었다. 비밀번호, 보안 질문, 생체 인증 등 모든 보안 체계는 인간의 행동을 전제로 한다. 그러나 이제는 로봇이 건물 안을 돌아다니며 문을 열고 닫는 시대가 왔다. 문제는 이 로봇 중 누가 허가된 배달원이고 누가 침입자인지를 구분할 수 없다는 점이다.

AI 에이전트가 요구하는 '신원'

AI 에이전트는 사용자를 대신해 작업을 수행하기 위해 신원이 필요하다. 오픈AI의 '오퍼레이터(Operator)'는 웹사이트를 탐색하고, 구글의 '제미니(Gemini)'는 사용자 대신 가족 휴가를 계획하며, 비자(Visa)는 '인텔리전스 커머스 커넥트(Intelligence Commerce Connect)'를 통해 소비자의 쇼핑까지 대신할 수 있다. 이 제품들은 이미 실생활에서 사용되고 있으며, 사용자의 신원을 필요로 한다. 문제는 이 신원을 악용할 수 있다는 점이다.

악의적 AI의 위협: 로그인은 '로봇'도 할 수 있다

AI는 유용한 비서가 될 수 있지만, 동시에 악의적인 사기꾼으로 변신할 수도 있다. AI는 인간의 행동을 모방해 로그인할 수 있으며, 이는 기존 보안 시스템으로는 감지하기 어렵다. 공유 자격 증명, 채용 파이프라인, 공급업체 온보딩 포털, 협업 도구 등을 통해 AI는 '인간처럼 로그인'할 수 있다. 대부분의 조직은 여전히 신원을 '로그인 문제'로 간주하며, 더 강력한 비밀번호나 다중 인증을 추가하는 정도로 보안을 강화하고 있다. 그러나 진짜 문제는 이미 시스템에 접근한 대상이 '누구'인지, 또는 '무엇'인지 구분하는 것이다.

신원 인증의 새로운 패러다임: '무엇이' 아닌 '누구'를 인증하라

기존의 신원 인증 시스템은 '무엇을 알고 있는가'(비밀번호, 보안 질문 등)에 초점을 맞췄다. 그러나 AI 에이전트는 이 모든 정보를 쉽게 획득할 수 있다. 이제 필요한 것은 '무엇이' 시스템에 접근하는지를 확인하는 것이다. AI 에이전트가 사용자를 대신해 작업을 수행한다면, 그 에이전트가 '정당한 권한'을 가지고 있는지, 그리고 그 작업이 '사용자의 의도'와 일치하는지를 검증해야 한다.

실제 피해 사례: 허위 주문과 compliance 위반

만약 조달 워크플로가 인간 관리자와 AI 사기꾼을 구분하지 못한다면, 허위 주문이 발행될 수 있다. 또한 compliance 로그에서 어떤 작업이 '인간'에 의해 수행되었는지, 또는 'AI'에 의해 수행되었는지 구분할 수 없다면 규제 위반으로 이어질 수 있다. 이는 단순히 기술적 문제가 아니라, 비즈니스 리스크로 직결된다.

미래 보안 전략: 능동적 신원 관리와 지속적 모니터링

기업들은 다음과 같은 전략을 고려해야 한다:

• 능동적 신원 관리: AI 에이전트가 접근할 때마다 실시간으로 권한을 검증하고, 비정상적인 행동을 감지하는 시스템 구축
• 행동 기반 인증: 사용자나 에이전트의 행동 패턴을 분석해 이상 징후를 탐지하는 AI 기반 보안 솔루션 도입
• 투명한 감사 로그: 모든 접근과 작업을 투명하게 기록하고, AI 에이전트의 활동을 추적할 수 있는 시스템 마련
• 다층적 권한 관리: AI 에이전트에게 최소 권한 원칙을 적용하고, 작업 수행 시마다 추가 인증을 요구하는 방식 도입

결론: AI 시대에는 신원 인증도 진화해야 한다

AI 에이전트는 이미 우리의 일상생활에 깊숙이 침투하고 있다. 그러나 기존의 보안 모델은 AI의 등장으로 인해 무용지물이 되고 있다. 기업들은 신원 인증 시스템을 재고하고, AI 에이전트의 특성을 반영한 새로운 보안 패러다임을 도입해야 한다. 그렇지 않으면, AI가 가져온 편리함의 이면에서 보안 위기가 커질 수밖에 없다.