개인정보 보호 유튜브 AI 딥페이크 딥페이크 대응 콘텐츠 규제

유튜브, AI 딥페이크 감지 기능 ‘할리우드’까지 확장

유튜브가 AI 딥페이크(Deepfake) 감지 기능을 할리우드 스타, 정치인, 기자 등 공적Figures에게까지 확대한다고 밝혔다. 이 기능은 AI로 생성된 영상을 자동 감지해 관련 콘텐츠를 식별하고, 공적Figures가 자신의 영상을 모니터링하거나 삭제 요청을 할 수 있도록 지원한다.

어떻게 동작하는가?

유튜브의 ‘얼굴 유사성 감지’ 기술은 플랫폼 내 AI 딥페이크 영상을 검색해 자동으로 식별한다. 공적Figures가 프로그램에 등록하면, 유튜브는 해당 콘텐츠를 플래그로 표시하고 삭제 요청 여부를 안내한다. 단, 모든 삭제 요청이 승인되는 것은 아니며, 유튜브의 개인정보 보호 정책에 따라 판단된다.

지난해 9월부터 테스트 중

이 기능은 지난해 가을 콘텐츠 크리에이터를 대상으로 처음 테스트를 시작했다. 이후 3월에는 정치인과 기자까지 포함해 대상자를 확대했으며, 이제 할리우드 스타까지 포함하기로 했다. 유튜브는 이 도구가 점차 모든 사용자에게 제공될 것이라고 밝혔다.

삭제 요청은 어떻게 처리되나?

  • 모니터링 및 신고: 공적Figures는 자신의 AI 생성 영상을 실시간으로 모니터링할 수 있으며, 유튜브에 삭제 요청을 제출할 수 있다.
  • 심사 기준: 삭제 여부는 유튜브의 개인정보 보호 정책과 커뮤니티 가이드라인에 따라 평가된다. 허위 정보나 사생활 침해가 명확한 경우에만 삭제가 승인될 가능성이 높다.
  • 한계점: 모든 AI 생성 콘텐츠가 자동으로 감지되는 것은 아니며, 기술적 한계로 인해 일부는 누락될 수 있다.

왜 이 기능이 필요한가?

“AI 기술이 급속도로 발전하면서 딥페이크는 사생활 침해와 허위 정보 확산의 주요 원인이 되고 있습니다. 공적Figures의 경우, 악의적인 AI 콘텐츠로 인한 피해가 심각할 수 있어 유튜브의 대응이 시급했습니다.” (유튜브 관계자)

향후 계획

유튜브는 이 기능을 점차 모든 사용자에게 확대할 계획이다. 현재는 공적Figures에 한정돼 있지만, 일반 사용자들도 AI 딥페이크 피해를 호소할 경우 유사한 지원을 받을 수 있을 것으로 보인다. 유튜브는 기술 개발과 정책 개선을 병행해 AI 콘텐츠 관리에 대한 투명성을 높일 예정이다.

출처: The Verge
트럼프, 데산티스에게 ‘정부 요직’ 제안? ‘법무장관’ 포함 다양한 역할 모색
← 이전

트럼프, 데산티스에게 ‘정부 요직’ 제안? ‘법무장관’ 포함 다양한 역할 모...

 전국 주정부 의원들 사이 ‘에릭 스월웰’들 잇따라…성추행 논란 확산
다음 →

전국 주정부 의원들 사이 ‘에릭 스월웰’들 잇따라…성추행 논란 확산