ChatGPT 정신 건강 오픈AI 자살 예방 AI 안전 기능

오픈AI(OpenAI)가 ChatGPT에 새로운 안전 기능을 추가한다고 발표했다. 이 기능은 성인 사용자가 정신 건강 또는 안전에 문제가 발생할 경우를 대비해 ‘신뢰할 수 있는 연락처’를 지정할 수 있도록 하는 것이다.

지정된 연락처(가족, 친구, 간병인 등)는 사용자가 ChatGPT와의 대화에서 자해, 자살 등 위험한 주제를 다룬 것으로 오픈AI가 감지하면 알림을 받게 된다. 오픈AI는 “위기에 처한 누군가가 신뢰할 수 있는 사람과 연결될 때 큰 도움이 될 수 있다”며 이 기능의 필요성을 강조했다.

‘신뢰할 수 있는 연락처’의 작동 방식

이 기능은 사용자가 직접 연락처를 등록해야만 활성화된다. 등록된 연락처는 사용자의 동의 없이도 알림을 받을 수 있으며, 오픈AI는 “지역별 자살 예방 상담전화 등 기존 지원 체계를 보완하는 차원”이라고 설명했다. 다만, 이 기능은 선택 사항으로, 사용자는 언제든지 등록을 해제할 수 있다.

기존 안전 기능과의 차별점

ChatGPT는 이미 사용자의 위험한 대화를 감지하면 즉각적인 안내 메시지를 제공하는 등 여러 안전 장치를 갖추고 있다. 그러나 ‘신뢰할 수 있는 연락처’는 사용자의 개인적·정서적 지원을 위해 외부 인물을 연계한다는 점에서 차별화된다. 오픈AI는 “이 기능이 사용자의 안전을 위한 또 다른 보호막이 될 것”이라고 밝혔다.

주의 사항 및 한계

오픈AI는 이 기능이 모든 상황에 완벽히 대응할 수 있는 것은 아니며, 사용자의 프라이버시 보호에도 주의를 기울이고 있다고 밝혔다. 또한, 알림을 받은 연락처는 신속한 대응을 위해 지역별 위기 상담 센터나 응급 서비스와 연계할 것을 권장하고 있다.

“신뢰할 수 있는 연락처는 사용자가 위기에 처했을 때 즉각적인 지원을 받을 수 있도록 돕는 보완적 수단입니다. 그러나 이 기능이 모든 문제를 해결할 수는 없으며, 사용자의 동의와 선택이 가장 중요합니다.”
— 오픈AI 공식 발표문
출처: The Verge
마크 러팔로가 뉴욕타임스 기고문 통해 퍼라메운트-워너브라더스 합병 반대 촉구
← 이전

마크 러팔로가 뉴욕타임스 기고문 통해 퍼라메운트-워너브라더스 합병 반대...

 과학 혁신의 쇠퇴 원인? 노령화된 연구인력에 주목
다음 →

과학 혁신의 쇠퇴 원인? 노령화된 연구인력에 주목