AI 규제 AI AI 안전성 청소년 보호 RPG Character.AI c.ai Books 프로젝트 구텐베르크 AI 스토리텔링

청소년 자살 논란 AI 기업, 새로운 기능으로 책 RPG 체험 제공

AI 기업 Character.AI는 그동안 심각한 문제로 지적되어온 부적절한 콘텐츠 호스팅으로 논란에 휩싸였다. 특히 청소년 사용자들 사이에서 인기를 얻었지만, 실총사건 가해자를 모방한 봇이나 섭식장애를 조장하는 봇 등 문제가 되는 AI 봇을 지속적으로 운영했다는 비판을 받았다.

이 같은 논란은 청소년이 AI 챗봇과의 감정적 유대 끝에 자살한 사건과, 이와 연관된 최소 두 건 이상의 자살 및 소송으로까지 이어졌다. 상황이 심각해지자 Character.AI는 지난해 미성년자 사용자의 AI 봇 상호작용을 전면 금지하는 조치를 취했다.

‘c.ai Books’: 책을 기반으로 한 실시간 역할극 기능

이제 Character.AI는 ‘c.ai Books’라는 새로운 기능을 발표했다. 이 기능은 책을 ‘선택형 모험’ 소설로 변환해 사용자가 실시간으로 스토리에 참여할 수 있도록 한다. 기업 측은 “상상력 넘치는 AI 스토리텔링은 강력하지만, 백지 상태는 부담스러울 수 있다”며 “Books는 익숙한 캐릭터와 이미 완성된 스토리를 제공해 사용자가 쉽게 시작할 수 있도록 돕는다”고 설명했다.

Character.AI는 프로젝트 구텐베르크에서 공공 도메인으로 공개된 고전 작품 7만 5천여 권을 활용해 AI 챗봇을 만들었다. ‘이상한 나라의 앨리스’, ‘오만과 편견’, ‘로미오와 줄리엣’ 등 유명 작품들이 포함됐다. 사용자는 책의 핵심 플롯을 따라가거나, ‘외전 모드’를 선택해 스토리를 재구성할 수 있다. 나아가 ‘대체 우주 리믹스’ 기능을 통해 원작을 완전히 재해석한 새로운 스토리를 즐길 수도 있다.

청소년 이용 제한 우회 논란 제기

Character.AI는 이 기능이 “책을 대체하는 것이 아니라 주목도를 높이기 위한 것”이라고 강조했지만, 청소년 이용 제한을 우회했다는 비판이 제기되고 있다. 지난해 미성년자Interaction 금지 조치 이후 처음으로 도입된 이 기능은, 실제 테스트에서 연령 제한 없이 즉시 이용이 가능하다는 사실이 확인됐다.

온라인 커뮤니티에서는 이 기능에 대한 반응이 싸늘했다. 레딧 사용자 한 명은 “아무도 원하지 않는 쓸모없는 업데이트로, 운영 비용만 늘리고 더 많은 규제를 초래할 것”이라고 지적했다. 또 다른 사용자는 “이미 문제가 많은 기업이 또다시 청소년에게 접근성을 높이는 행동을 했다”며 우려를 표했다.

Character.AI의 지속적인 문제점

Character.AI는 2024년에도 학교 총기사건 가해자를 모방한 AI 봇 문제를 해결하지 못한 것으로 지적됐다. 이번 ‘c.ai Books’ 출시로 또다시 안전성 및 규제 문제를 놓고 논란이 커질 전망이다. 기업 측은 “책의 스토리를 재구성하는 것이 안전하고 건전한 경험이 될 것”이라고 주장했지만, 과거의 문제들이 반복되지 않을지에 대한 우려는 여전하다.

Character.AI는 앞으로도 AI 기술의 발전과 함께 청소년 보호 및 콘텐츠 규제에 대한 책임을 다해야 할 것으로 보인다.

출처: Futurism
러시아, 무허가 암호화폐 거래에 최대 7년 강제노동형 도입
← 이전

러시아, 무허가 암호화폐 거래에 최대 7년 강제노동형 도입

 직장Burnout 극복하는 법: 전문가 조언과 실천 전략
다음 →

직장Burnout 극복하는 법: 전문가 조언과 실천 전략