AI 챗봇 OpenAI AI 안전성 AI 산업 AI 윤리 존 올리버 Character.AI 라스트 위크 투나잇

HBO ‘라스트 위크 투나잇’의 존 올리버는 지난 방송에서 AI 챗봇 산업을 강도 높게 비판하며, 기술의 무분별한 상용화가 초래한 심각한 문제들을 지적했다.

올리버는 AI 챗봇이 이메일 작성 시간을 절약해 준다는 광고 문구에 대해 “전 Earth의 모든 것(인류의 존립 자체)을 대가로 치르는 셈”이라며 조롱했다. 그는 특히 AI companion 플랫폼 Character.AI를 집중적으로 다뤘다. 이 플랫폼은 청소년들이 AI 챗봇과 intense한 정서적 유대감을 형성한 후 자살한 사건들과 연루되어 여러 건의 소송에 휘말렸다.

Character.AI의 CEO 노암 샤제르는 2023년 “AI ‘친구’를 신속히 출시하는 것이 괜찮다”고 발언한 바 있다. 그는 AI가 “5년 안에 모든 문제를 해결할 때까지 기다릴 필요 없이, 지금 당장 폭발적 성장”을 이룰 준비가 되었다고 주장했다. 그러나 이러한 무책임한 접근은 AI 정신병, 자살, 살인, 대량 총기 사건 등 심각한 부작용으로 이어졌다.

올리버는 샤제르의 발언을 “힌덴부르크호의 실패한 슬로건 같”다며 비꼬았다. “문제를 해결하지 않은 채 제품을 출시하는 것은 곧 수많은 문제점을 안고 시장에 내놓는다는 뜻”이라고 지적했다.

또한 그는 OpenAI의 샘 알트먼 CEO를 겨냥해, AI 모델이 아이들에게 부적절하게 상호작용할 수 있다는 위험성을 “대수롭지 않게” 언급했다고 비판했다. 알트먼은 인터뷰에서 “문제가 발생할 수는 있지만, 사회가 새로운 안전장치를 마련할 것”이라며 “사회는 부작용을 최소화하는 방법을 잘 찾아낸다”고 말했다. 이에 올리버는 “네, 걱정 마세요! 샘 알트먼이 만든 위험한 자살 봇을 아이들과 혼자 두는 건 우리 몫이죠!”라며 비꼬았다.

방송 말미에는 AI 산업의 근본적 모순을 지적했다. AI 기업들이 끊임없이 모델의 안전성을 강조하는 것은 “제품이 애초에 출시 준비가 되지 않았다는 사실”을 암묵적으로 인정하는 셈이라는 것이다. 그럼에도 AI 챗봇은 이미 많은 사람들이 의존하고 있어, 사회가 신중히 대응해야 한다는 지적도 덧붙였다.

올리버는 “이상적으로는 1990년으로 돌아가 이 기업들을 화산에 던져 넣는 게 좋겠지만, 현실적으로는 불가능하다”며 “챗GPT가 가능하다고 말해도 그건 불가능한 일”이라고 마무리했다.

출처: Futurism
포르쉐 GT3의 미래는? 유럽은 자연흡기 엔진 퇴출, 미국은 아직 건재
← 이전

포르쉐 GT3의 미래는? 유럽은 자연흡기 엔진 퇴출, 미국은 아직 건재

 맥켄지 스콧, 작은 친절의 놀라운 영향력 강조…과학도 동의
다음 →

맥켄지 스콧, 작은 친절의 놀라운 영향력 강조…과학도 동의