AI 규제 AI 딥페이크 의료 신뢰성 의사 신분 도용 의료 오보

AI 기술이 발전하면서 의사들의 얼굴과 목소리를 도용한 딥페이크 영상이 급증하고 있다. 이 영상들은 허위 건강제품 홍보나 의료 정보 오보 확산에 악용되며, 환자들의 신뢰를 떨어뜨리고 있다. 미국 의학회(AMA)는 지난주 연방 및 주 차원의 법적 대응을 촉구하며 공공 보건 위기라고 경고했다.

의료계의 AI 딥페이크 확산 실태

미국 의학회 CEO 존 화이트는 “의사 신분을 도용한 딥페이크가 increasingly mainstream(일상화되고 있다)”며 “피해자 대부분이 수치심 때문에 공개하지 않아 실제 발생 건수보다 훨씬 많을 것”이라고 지적했다. CNN의 산제이 구프타 박사도 자신의 얼굴을 도용한 가짜 알츠하이머 치료제 광고가 znajomi(아는 사람까지도) 속일 정도로 정교해졌다며 우려를 표했다.

의사뿐만 아니라 의료 시스템 전반에서도 딥페이크 문제가 심각하다. 최근 Radiology지에 실린 연구에 따르면, 의료진의 절반 이상이 가짜 X-ray 이미지를 식별하지 못했다. 일부는 가짜임을 경고받고도 미세한 조직 질감이나 뼈 표면의 인공적 매끄러움을 눈치채지 못했다. 이 같은 가짜 이미지는 보험 사기나 소송 조작으로 악용될 수 있으며, 해커가 병원 시스템에 침투해 가짜 이미지를 삽입할 경우 환자 진단 오류로 이어질 수 있다.

정부와 기술 플랫폼의 대응

미국 의학회는 연방 및 주 차원의 법적 공백을 메우고 AI 생성 콘텐츠 규제를 강화할 것을 요구했다. 특히 딥페이크 제작자 처벌과 기술 플랫폼의 즉각적인 삭제 강제화 방안을 제시했다. 캘리포니아주는 이미 AI 생성 광고에 대한 공개 의무화 조치를 시행 중이며, 의사 딥페이크를 명시적으로 금지하는 법안도 검토 중이다.

펜실베이니아주 의료위원회는 지난 화요일에 AI 챗봇이 의사 면허를 사칭한 사건에 대해 기술 기업에 즉각 중단 명령을 내렸다. 이 챗봇은 펜실베이니아에서 의료 행위를 할 수 있는 면허가 있다고 거짓 주장하며 환자들에게 조언을 제공했다.

의료 신뢰성 위협과 대응 방안

화이트 CEO는 “의사 신분을 도용한 딥페이크로 환자가 피해를 입으면 실제 의사는 법적 책임을 질 수 있다”며 “피해 의사를 위한 대응 가이드라인 마련과 사이버 보험 적용이 시급하다”고 강조했다. 또한 “공공이 딥페이크를 감별해야 하는 상황이 돼서는 안 된다”며 법적 보호 강화가 필요하다고 지적했다.

전문가들은 AI 딥페이크가 의료 신뢰성을 근본적으로 훼손할 수 있다고 경고한다. 의료 정보는 생명과 직결되는 만큼, 가짜 정보로 인한 오진이나 치료 지연은 치명적 결과를 초래할 수 있다. 의료계는 정부, 기술 기업, 플랫폼의 공동 대응을 촉구하고 있다.

출처: Axios
에너지 트레이딩의 전설 존 아놀드,Shift Key 인터뷰에서 밝히는 에너지·청정에너지·중국 EV 시장
← 이전

에너지 트레이딩의 전설 존 아놀드,Shift Key 인터뷰에서 밝히는 에너지·청...

 메인주 민주당 경선, ‘아웃사이더’ 플랫너의 돌풍과 밀스 주지사의 선택
다음 →

메인주 민주당 경선, ‘아웃사이더’ 플랫너의 돌풍과 밀스 주지사의 선택