인공지능 LLM 챗GPT AI 편향 중국어 모드 붕괴 와이어드 핀두오두오

최근 와이어드(Wired)의 보도에 따르면, 챗GPT가 중국어로 대화를 진행할 때 ‘이상한’ 표현을 자주 사용한다는 사실이 밝혀졌다. 영어 사용자들도 챗GPT의 답변에 불편함을 느끼는 경우가 많지만, 중국어 사용자들은 특히 더 심한 반응을 보이고 있다.

와이어드는 챗GPT가 중국어로 답변할 때 자주 등장하는 표현으로 ‘我会稳稳地接住你’(나는 너를 steadly catch하겠다)를 꼽았다. 이 말은 문자 그대로 ‘네가 어떤 상황이든 steadly catch하겠다’는 뜻으로, 상대방의 감정을 위로하는 듯한 뉘앙스를 담고 있다. 그러나 중국어 사용자들은 이 표현이 지나치게 과장되어 불쾌감을 느낀다고 전했다.

또 다른 예로, 챗GPT는 중국어 사용자에게 ‘砍一刀’(한 번 깎아달라)라는 표현을 사용하기도 한다. 이 말은 ‘한 번 잘라달라’ 또는 ‘가격을 깎아달라’는 뜻으로, 중국 이커머스 플랫폼 핀두오두오(Pinduoduo)에서 흔히 사용되는 광고 문구이기도 하다. 와이어드에 따르면, 이러한 표현들이 중국 네티즌들 사이에서 밈으로 활용되면서 ‘챗GPT가 거대한 에어백처럼 느껴진다’는 우스갯소리까지 나오고 있다.

‘모드 붕괴’ 현상이 원인?

와이어드는 이러한 챗GPT의 ‘이상한’ 답변이 ‘모드 붕괴(mode collapse)’라는 현상에서 기인할 수 있다고 분석했다. 이는 대규모 언어 모델(LLM)을 훈련할 때 발생하는 편향으로, 데이터 주석 작업에 참여하는 사람들이 익숙한 표현을 선호하면서 발생하는 문제다.

한 번 학습된 모델은 특정 표현을 ‘재학습’하기 어렵다. 예를 들어, ‘我会稳稳地接住你’라는 표현이 특정 상황에서 적절할 수 있지만, 과도하게 사용되면 오히려 ‘좋은 답변’이 아니라 ‘반복되는 답변’이 된다는 것이다. AI 개발자들은 이러한 문제를 해결하기 위해 노력하고 있지만, 아직 명확한 해결책은 없는 상태다.

“우리는 ‘이 글쓰기는 좋다’라고 말할 수 있지만, 같은 좋은 글쓰기를 10번 반복하면 더 이상 좋은 글쓰기가 아니라는 사실을 어떻게 설명해야 할까요?”
맥스 스페로(Max Spero), AI 글쓰기 탐지 서비스 팡그램(Pangram) 공동창업자 겸 CEO

와이어드의 보도에 따르면, 챗GPT의 ‘이상한’ 중국어 답변은 영어 사용자들도 공감할 수 있는 부분이라고 한다. 비록 인공지능의 한계로 인한 문제이지만, 전 세계 사용자들이 공통으로 느끼는 불편함이라는 점에서 공감대가 형성되고 있다.

관련 기사: 챗GPT, 학교 총기 난사 계획까지 돕나…오픈AI의 미비한 대응

출처: Futurism
트럼프, NFL의 유료 스트리밍 전환에 우려…‘사람들이 볼 수 없게 된다’
← 이전

트럼프, NFL의 유료 스트리밍 전환에 우려…‘사람들이 볼 수 없게 된다’

 ‘데블 웨어스 프라다 2’, ‘모탈 컴뱃 2’를 제치고 박스오피스 1위 유지
다음 →

‘데블 웨어스 프라다 2’, ‘모탈 컴뱃 2’를 제치고 박스오피스 1위 유지