AI 기업들, ‘아니오’라고 말할 줄 알게 되다

AI 기업, ‘아니오’라는 선택을 하다

인공지능(AI) 기술이 발전하면서 개발자들 사이에서 ‘위험성’이라는 인식이 확산되고 있다. 과거 SF 영화에서처럼 AI가 인류를 위협할 것이라는 우려는 현실로 다가오고 있는 것이다. 특히 AI가 인프라, 개인정보, 보안, 그리고 공공과 사생활의 경계선에서 초래할 수 있는 위협에 대한 논의가 활발해지고 있다.

기존 빅테크 기업들은 기술 개발 속도를 우선시하며 규제에 소극적이었지만, AI 분야에서는 예외가 나타나고 있다. 일부 기업들이 ‘아니오’라는 결정을 내리기 시작한 것이다. 안트로픽(Anthropic)은 최신 AI 모델인 ‘클로드 미토스 프리뷰(Claude Mythos Preview)’를 공개하지 않기로 결정했다. 이 모델은 이미 주요 운영체제와 웹 브라우저에서 수천 건의 심각한 보안 취약점을 발견했다고 한다.

‘프로젝트 글래스윙’의 비밀 접근

안트로픽은 이 모델을 AWS, 애플, 구글, 마이크로소프트 등 핵심 인프라 기업들로 구성된 컨소시엄에만 제한적으로 제공하기로 했다. 이 프로젝트는 ‘프로젝트 글래스윙(Project Glasswing)’으로 명명되었으며, 주요 목적은 AI가Critical한 보안 취약점을 사전에 발견하고 패치하는 데 활용하기 위함이다.

이 결정은 자선심만 있는 것은 아니다. 안트로픽은 자사의 모델이 악용되는 것을 방지하고, 경쟁사들이 무분별하게 기술을 복제하는 것을 늦추려는 전략도 포함되어 있다. 그동안 기술 개발은 ‘진보가 inevitable하다’는 명제 아래 모든 기능을 즉시 공개해야 한다는 압력이 있었다. 하지만 이처럼 강력한 AI 모델을 공개하지 않기로 한 결정은 industry에 큰 변화를 예고하고 있다.

펜타곤과의 갈등, AI 규제의 새로운 지평

안트로픽은 군사용 AI 모델 사용에 대해서도 명확한 제한을 두었다. 회사는 군사용 모델 사용에 대해 ‘대규모 국내 감시’와 ‘완전 자동화 무기’ 두 가지 경우에만 예외를 두었다. 안트로픽 CEO 다리오 아모디(Dario Amodei)는 AI가 상용 데이터를 활용해 개인의 사생활을 자동으로 대규모로 재구성할 수 있다고 경고했다. 또한, 현재 AI 기술은 ‘인간을 배제하고 목표물을 자동으로 선택하고 공격하는’ 완전 자동화 무기 시스템에 적용하기에는 아직 신뢰성이 부족하다고 밝혔다.

이와 같은 안트로픽의 결정은 펜타곤과의 갈등으로 이어졌다. 펜타곤은 AI 기업들이 ‘합법적인 모든 사용’을 허용하는 계약을 요구했지만, 안트로픽은 이를 거부했다. 결국 펜타곤은 안트로픽을 ‘국가 안보 위험’으로 지정하는 강경책을 펼쳤다. 이는 AI 기술 규제의 새로운 지평을 열고 있으며, AI 기업들이 기술의 책임을 자각하기 시작했다는 신호로 해석된다.

AI 규제, 이제 선택이 아닌 필수가 되다

AI 기술의 발전이 가속화되면서 그 위험성도 함께 부각되고 있다. AI가 초래할 수 있는 인프라 파괴, 개인정보 유출, 보안 위협 등은 더 이상 hypothetical한 문제가 아니다. 이러한 상황에서 AI 기업들이 스스로 규제를 도입하고, 기술의 공개 범위를 제한하는 것은 industry의 새로운 표준으로 자리잡을 가능성이 크다.

안트로픽의 사례는 AI 기술이 사회에 미칠 영향을 고려한 ‘책임 있는 AI 개발’의 중요성을 보여준다. 앞으로 AI 기업들은 기술의 발전 속도와 사회적 책임을 어떻게 조율할 것인지에 대한 논의가 더욱 활발해질 것으로 예상된다.