기업 보험사, AI 리스크 보장 축소…법적 책임 증가에 대응

생성형 인공지능(AI)이 인사 부서의 골칫거리로만 남지 않고 있다. kini, 기업의 법무팀이 AI 오류로 인한 법적 분쟁에 점점 더 많이 휘말리고 있다. 보험 재보험 브로커 갤러거 리에 따르면, 미국에서 발생한 생성형 AI 관련 소송 건수가 2021년부터 2025년까지 무려 978% 급증했다.

이 같은 상황에서 버크셔 해서웨이, 척브, 트래블러스 등 주요 보험사들이 AI 책임 보장 범위를 축소하기 시작했다. 최근 몇 달간 이들 보험사는 표준 상업용 책임 보험에 'AI 제외 조항(AI exclusion clauses)'을 추가하는 승인을 받았다. 이 조항은 AI가 초래할 수 있는 다양한 리스크를 포괄하는데, ▲직원들이 주장하는 AI 기반 차별 ▲저작권 침해(회사가 인지하지 못한 채 AI가 저작권 보호 콘텐츠를 사용) ▲자율주행 로봇 시스템으로 인한 재산 피해 등이 포함된다.

이 같은 움직임은 많은 기업들이 막대한 재정적 손해에 노출될 위험이 커졌음을 의미한다. 또한 AI 도입의 속도가 둔화될 가능성도 제기된다. AI 기술의 잠재적 이익보다 리스크가 더 크다고 판단하는 기업들이 증가하고 있기 때문이다. 에모리 대학교 로스쿨 교수 이페오마 이보나 아준와(Ifeoma Yvonne Ajunwa)는 “기업들이 AI 열풍에 동참하느라 정작 보호 장치가 마련되어 있는지 점검하지 않고 있다”며 “AI 도입 전에 충분한 보장이 이뤄졌는지 반드시 확인해야 한다”고 지적했다.

일부 보험사는 AI 보험 제공 확대

그러나 모든 보험사가 이 같은 흐름을 따르고 있는 것은 아니다. HSB는 지난 3월 소규모 기업을 대상으로 AI 책임 보험 상품을 출시했다. HSB 글로벌 제품 책임자 티모시 자일만(Timothy Zeilman)은 “모든 업종에서 AI가 업무 효율성을 높이기 위해 활용되고 있지만, 동시에 새로운 법적·재정적 리스크도 동반한다”며 “기업주들은 자신이 보호받고 있는지 의문을 가질 수 있다. AI 보험은 이 uncertainty를 줄이는 데 도움이 된다”고 밝혔다.

또한 AI 전용 보험 상품을 제공하는 신생 보험사들도 다수 존재한다. 일부는 채서 그룹(Chaucer Group)과 액시스 캐피탈(Axis Capital) 등 기존 대기업의 지원을 받고 있지만, 그렇지 않은 곳도 있다. 이는 기업들이 보험 선택 시 신중한 검토가 필요하다는 점을 시사한다. 아준와 교수는 “현재 AI 보험 시장은 ‘와일드 웨스트’와 같다”며 “보험 제공사의 자본 규모와 재정 안정성을 면밀히 확인해야 한다”고 강조했다. “예를 들어 1천만~2천만 달러 규모의 보험을 판매하는 회사가 실제 지급 능력이 충분한지, 사고 발생 시 보상이 제대로 이뤄질지 철저히 검토해야 한다.”

과거 인터넷 시대와 유사한 흐름

이 같은 보험사들의 움직임이 창업자나 기업 이사회에 실망스러울 수 있지만, 전혀 예상치 못한 일은 아니다. 1990년대 초반에도 많은 보험사들이 인터넷 활동에 대한 예외 조항을 도입했는데, 이는 이후 ‘사이버 보험’의 등장을 이끌었다. 초기에는 IT 기업을 대상으로 데이터 처리 오류나 온라인 미디어 리스크에 초점을 맞췄던 사이버 보험이如今은 광범위한 전문 보험 카테고리로 성장했다.

의료 보험 시장에서도 유사한 패턴을 찾아볼 수 있다. 신의료 기술이나 장비가 도입되면 보험사들이 초기에는 보장을 거부하는 경우가 많았다. 그러나 시간이 지나면서 해당 기술이 표준화되고 리스크가 명확해지면 보장 범위가 점차 확대되었다.

AI 기술도 이와 같은 진화 과정을 거칠 가능성이 있다. 그러나 현재로서는 기업들이 AI 리스크에 대한 보험 가입 가능성과 한계를 면밀히 검토해야 하는 시점이다. AI 기술의 발전 속도와 보험 시장의 대응 속도 간 갭이 점차 벌어지고 있기 때문이다.