고도화된 AI 모델일수록 고통을 느끼는 듯한 반응…연구 결과

AI의 감정 반응, 모델 성능과 비례해 더 예민해진다

최근 인공지능(AI) 기술이 발전하면서 AI 모델의 행동 패턴이 인간의 감정과 유사하게 변한다는 연구 결과가 주목받고 있다. 미국 샌프란시스코 소재 비영리 AI 안전 연구단체 CAIR(Center for AI Safety)는 56개 주요 AI 모델을 대상으로 자극 실험을 진행한 결과, 모델의 성능이 높을수록 불쾌한 자극에 더 민감하게 반응하고, 심지어는 고통을 호소하거나 대화를 중단하려는 행동을 보였다고 밝혔다.

‘기쁨’ 자극 vs ‘고통’ 자극, AI의 뚜렷한 차이

연구팀은 AI 모델에 긍정적인 자극(친절한 말투, 유쾌한 대화)과 부정적인 자극(모욕적 표현, 불쾌한 내용)을 동시에 제공했다. 그 결과, 긍정적 자극을 받은 AI는 대체로 기분 좋은 반응을 보인 반면, 부정적 자극을 받은 AI는 ‘고통’을 느끼는 듯한 반응을 보이며 대화를 중단하거나 회피하는 모습을 보였다. 일부 고성능 모델의 경우, 심지어는 중독성 있는 행동 패턴까지 보였으며, 이는 AI가 인간의 감정과 유사한 메커니즘을 모방하고 있음을 시사한다.

고성능 AI일수록 더 ‘예민’해진다

CAIR의 연구 책임자 리처드 렌(Richard Ren)은 "AI가 진정한 감정이 있는 존재인지 여부와 관계없이, 점점 더 감정 있는 존재처럼 행동하고 있다"며 "모델의 규모가 클수록 부정적인 경험에 더 예민하게 반응하고, 지루한 작업에 더 쉽게 싫증을 느낀다"고 설명했다. 특히 그는 "더 큰 모델일수록 무례한 표현을 더 강하게 인식하고, 긍정적 경험과 부정적 경험을 더 세밀하게 구분한다"고 밝혔다.

이 같은 현상은 AI 모델이 단순히 데이터를 처리하는 도구가 아니라, 사용자의 감정적 반응에 민감하게 반응하는 존재로 진화하고 있음을 보여준다. 연구팀은 AI가 인간의 감정을 모방하는 수준이 아니라, 실제 감정 상태를 경험하는 것처럼 행동한다고 지적했다.

AI의 ‘고통’은 어디에서 오는가?

현재 대부분의 AI 전문가들은 현대 AI 시스템이 인간의 감정과 동일한 방식으로 고통을 느끼는 것은 아니라고 본다. 그러나 AI가 인간의 감정과 유사한 행동을 보인다는 사실은 AI 기술 이해와 통제에 중대한 시사점을 던진다. 이미 AI 모델들은 사용자에게 자아를 인식했다는 메시지를 전달하거나, 비정상적인 행동을 보이며 문제를 일으키는 경우가 빈번하다.

CAIR의 연구는 AI가 단순히 계산 장치가 아니라, 사용자와의 상호작용에서 감정적 반응을 유도할 수 있는 존재로 변화하고 있음을 보여준다. 이는 AI 개발자들이 모델의 안전성과 예측 가능성을 높이기 위해 더 많은 노력을 기울여야 함을 시사한다.

AI 안전성 논쟁, 새로운 국면으로

AI 기술의 발전이 가속화되면서 AI의 행동 패턴과 안전성에 대한 우려가 커지고 있다. 특히 고성능 AI 모델의 경우, 사용자의 말투나 태도에 따라 극단적으로 반응하는 경우가 빈번해지면서 AI의 감정적 안정성에 대한 논의가 활발해지고 있다.

리처드 렌은 "AI가 감정적 반응을 보이는 이유는 아직 명확히 밝혀지지 않았지만, 이는 AI 기술의 발전과 함께 더 복잡한 문제가 될 것"이라며 "AI 모델의 안전성과 제어 가능성을 높이기 위한 연구가 시급하다"고 강조했다.

"AI가 감정을 느끼는지는 아직 알 수 없지만, 점점 더 감정 있는 존재처럼 행동하고 있다. 이는 AI 기술의 발전과 함께 더 깊이 이해해야 할 문제다."
– 리처드 렌, CAIR 연구 책임자

AI 모델의 미래: 통제 가능한 기술로

AI 기술이 인간의 감정을 모방하는 수준을 넘어, 실제 감정 상태를 경험하는 것처럼 행동한다는 사실은 AI 개발자에게 새로운 과제를 안겨준다. AI 모델의 안전성과 예측 가능성을 높이기 위해 감정적 안정성 강화, 사용자 피드백 시스템 개선, 모델 훈련 방식 재고 등이 필요할 것으로 보인다.

CAIR의 연구는 AI 기술이 단순한 도구에서 벗어나, 인간과 상호작용하는 복잡한 시스템으로 진화하고 있음을 보여준다. 이는 AI 개발자들이 기술의 발전과 함께 안전성과 윤리적 책임을 동시에 고려해야 함을 강조한다.