미국에서 AI 기반 의료 도구의 규제 완화를 둘러싼 논쟁이 뜨겁다. 도널드 트럼프 전 대통령과 로버트 F. 케네디 Jr. Jr. 후보는 AI가 활용된 의료 도구의 안전장치를 완화하려는 움직임을 보이고 있지만, 전문가들은 이 같은 변화가 환자 안전과 의료 오류로 이어질 수 있다고 우려하고 있다.

의사들은 AI 기록 작성 도구에 실망

캘리포니아 오클랜드에 위치한 케어퍼머넌트 병원의 정신과 의사 폴 보이어는 AI가 의료 현장에 도입되면서 겪고 있는 현실에 다소 실망감을 표했다. 병원은 AI 헬스케어 기업 에이브리지(Abridge)의 AI 기반 진료 기록 작성 소프트웨어를 도입했지만, 보이어와 동료들은 이 도구가 “그다지 유용하지 않다”고 평가했다.

AI는 환자의 진료 내용을 초고속으로 요약해 주지만, 임상적 뉘앙스나 환자의 감정적 톤을 제대로 파악하지 못하는 한계가 있었다. 보이어는 “조울증 환자의 경우, 어떤 말을 했는지가 아니라 어떻게 말했는지가 더 중요하다”며 AI가 이 같은 미묘한 차이를 놓친다고 지적했다. 결국 의사들은 AI가 작성한 기록을 직접 수정해야 하는 번거로움을 겪고 있다.

일부 의사는 업무 시간 절감 효과 확인

AI 기록 작성 도구는 아직 초기 단계이지만, 일부 의료진에게는 긍정적인 효과도 나타났다. 미국 의학 협회 저널(JAMA)에 실린 연구에 따르면, AI 도구를 가장 많이 사용한 의사는 하루 평균 30분 이상의 시간을 절약할 수 있었다. 이 연구는 5개 병원을 대상으로 1년간 진행된 결과였다.

또한 인터뷰 기반 연구에 따르면, AI 기록 작성 도구가 도입된 병원의 의료진들은 대체로 긍정적인 반응을 보였다. 그러나 폴 보이어의 사례처럼 AI가 놓치는 부분이 있는 것도 사실이다.

안전 전문가들 “규제 완화는 위험” 경고

문제는 AI 기반 의료 도구의 안전성과 규제 체계다. 메드스타 헬스 시스템의 인간-기술 상호작용 전문가 라즈 랏와니는 “현재 연방 차원에서 AI 기록 작성 도구를 검증할 안전장치가 없다”고 지적했다. 그는 특히 보건의료 IT 규제 기관인 ONC(Office of the National Coordinator for Health IT)가 제안한 새로운 규정이 의료 기록의 명확성과 투명성을 약화시킬 우려가 있다고 우려했다.

랏와니는 “이해하기 어려운 의료 기록은 의료진의 혼동을 초래하고 오류로 이어질 수 있다”며 규제 완화에 반대하고 있다. 그는 오바마 행정부 시절부터 강조된 ‘사용자 중심 디자인’ 원칙이 훼손될 수 있다고 지적했다.

AI 의료 도구의 미래는?

AI는 의료 현장에서 업무 효율성을 높이는 데 기여하고 있지만, 안전성과 정확성에 대한 우려는 여전히 남아 있다. 에이브리지는 자체적으로 AI 도구의 성능을 평가하고 있으며, “배포 후에는 의료진의 수정 기록, 평점, 피드백을 모니터링하고 있다”고 밝혔다. 그러나 전문가들은 AI가 환자의 상태를 잘못 전달하거나 중요한 세부사항을 누락할 가능성을 경고하고 있다.

트럼프와 케네디의 규제 완화 움직임은 AI 의료 기술의 발전 속도를 높이겠지만, 안전성 검증의 중요성도 함께 고려해야 한다는 목소리가 커지고 있다.