사이버 보안 AI 보안 1Password 비밀번호 관리 AI 위협

정보 보안 분야에서 가장 중요한 역할을 맡은 기업 중 하나인 1Password는 AI의 위험과 기회를 평가하는 일이 단순한 분석을 넘어 섰다며, "20면체 주사위를 굴리는 듯한 불확실성"이라고 표현했습니다. 비밀번호 관리 서비스는 고객의 가장 중요한 인증 정보를 외부 공격자와 고객의 부주의로부터 보호해야 하지만, 이제 AI가 새로운 도전 과제로 떠오르고 있습니다.

AI는 비밀번호 관리 기업이 코드를 개발하고 취약점을 더 빠르게 찾는 데 도움을 줄 수 있지만, 동시에 고객이 부주의하게 작성한 코드로 인해 비밀번호가 노출될 위험도 있습니다. AI 에이전트는 복잡한 작업을 신속히 처리할 수 있지만, 환각 현상이나 프롬프트 주입 공격으로 인해 오류를 일으킬 수 있으며, 이는 인간의 실수와 유사하지만 훨씬 빠르게, 그리고 대규모로 발생할 수 있습니다.

Nancy Wang 1Password CTO는 "고객이 직면할 수 있는 위험 반경과 생태계 내에서의 확산 가능성을 먼저 이해시키는 것부터 시작해야 한다"고 강조했습니다.

고객의 자멸적 실수 예방

캐나다 토론토에 본사를 둔 1Password는 AI 전략의 첫 단계로 기업 고객이 스스로 문제를 일으키지 않도록 돕는 데 중점을 두고 있습니다. 1Password는 기기 내 에이전트를 활용해 AI 모델 사용을 감사하고, 관리층이 알아야 할 위험을Flag합니다. 예를 들어, "CISO님, 개발자들이 DeepSeek 모델을 코드 베이스에서 사용 중인 것 알고 계십니까?"라는 알림을 보내기도 합니다. DeepSeek은 보안 위험으로 비판받는 중국 개발 LLM입니다. Nancy Wang은 "이러한 상황이 실제로 발생했으며, 이후 개발자들과 보안 모범 사례에 대한 대화를 진행했다"고 설명했습니다.

이 에이전트는 설치된 소프트웨어 업데이트와 기기 건강 상태를 확인하는 등 자동화된 스캐닝을 수행하며, 1Password는 이를 통해 부주의한 비밀번호 관리를 발견합니다. Wang은 "장치 에이전트를 통해 디스크에 보호되지 않은 암호화되지 않은 인증 정보가 발견되면, 이를 안전한 암호화된 금고로 이동시킬 수 있다"고 말했습니다. 1Password는 다른 비밀번호 관리 서비스와 마찬가지로 저장된 인증 정보를 종단 간 암호화하여 회사조차도 저장된 비밀번호를 볼 수 없도록 설계했습니다. 또한 AI 에이전트가 비밀번호를 평문으로 볼 수 없도록 소프트웨어가 구성되어 있습니다.

AI 에이전트의 오류 방지

AI 에이전트는 일상적인 업무 자동화를 가능하게 하지만, 비결정론적 특성으로 인해 체계적인 모니터링이 필요합니다. Wang은 이를 1Password가 에이전트 행동을 대규모로 분석하며 학습할 수 있는 "녹색 지대 기회"로 꼽습니다. 그녀는 "어떤 프롬프트가 입력되었는지, 에이전트가 어떤 행동을 취했는지, 출력은 무엇이었는지"를 기록하고, 이러한 로그 파일이 에이전트와 모델의 학습 메커니즘으로 활용된다고 설명했습니다.

1Password는 지난 2월 AI 에이전트의 행동 기준인 SCAM(보안 이해 및 인지 측정) 지표를 발표했습니다. 이 지표는 AI 에이전트의 안전성과 신뢰성을 평가하는 새로운 표준으로, 비밀번호 관리 기업이 AI 시대에 대응할 수 있는 기반을 마련했습니다.

출처: Fast Company
세계에서 가장 주목받는 지열 발전 스타트업, Fervo Energy의 숨은 진실
← 이전

세계에서 가장 주목받는 지열 발전 스타트업, Fervo Energy의 숨은 진실

 FC 26 시즌7 실버 슈퍼스타 모든 카드 획득하는 가장 빠른 방법
다음 →

FC 26 시즌7 실버 슈퍼스타 모든 카드 획득하는 가장 빠른 방법