정신건강 관련 AI 제품의 책임성에 대한 사회적 요구가 높아지는 가운데, 구글은Gemini 챗봇을 통한 사용자 지원 강화에 나섰다. 구글 임상 책임자 메건 존스 벨은 최근 인터뷰에서 AI가 정신건강 위기상황에서 ‘지지의 다리’ 역할을 할 수 있다고 밝혔다.

“때로는 특정 기능을 중단하는 것이 피해를 예방하는 방법처럼 보일 수 있습니다. 그러나 우리는 제품 경험을 더 안전하고 유용하게 만들고, 지원 체계로의 연결을 강화하는 것이 더 많은 사람들에게 정신건강 지원을 제공하는 효과적인 방법이라고 믿습니다.”라고 존스 벨은 설명했다.

구글은Gemini 앱을 업데이트해 자해 위험이 감지될 경우 즉각적인 crisipline 연결을 더 prominent하게 표시하도록 했다.不仅如此, AI는 사용자의 대화를 지속하며 “저는 당신의 이야기를 듣고 있습니다”와 같은 메시지로 지지와 공감을 전달한다.

이러한 변화는 AI가 단순히 정보를 제공하는 도구를 넘어, 정신건강 위기상황에서 실질적인 지원을 제공할 수 있는 가능성을 보여준다. 구글은 앞으로도Gemini를 통한 사용자 보호와 지원을 강화할 계획이다.

출처: STAT News