FTC, AI 악용 범죄에 ‘강력한 규제’ 선언
미 연방거래위원회(FTC)가 AI 기술을 악용한 범죄에 본격 대응하기 위해 규제 강화에 나섰다. 특히 비동의 성적 딥페이크와 음성 클로닝 사기 등 디지털 성범죄에 대한 단속을 강화할 계획이다.
‘Take It Down Act’로 AI 범죄 규제 틀 마련
지난해 미국 의회는 ‘Take It Down Act’를 통과시켰다. 이 법은 비동의 성적 이미지나 AI 생성 디지털 위조물을 유포한 개인에 대해 형사 처벌을 가능하게 한다. FTC의 앤드루 퍼거슨 의장은 지난주 상원 청문회에서 이 법을 “현재 의회와 트럼프 행정부의 가장 큰 입법적 성과 중 하나”라고 평가하며, FTC가 “강력한 집행”을 준비하고 있다고 밝혔다.
첫 유죄 판결…AI 딥페이크로 여성을 괴롭힌 37세 남성
지난 3월, 오하이오주 콜럼버스 거주자 제임스 스트라허(37세)가 AI로 생성한 비동의 누드 이미지를至少 6명의 여성에게 유포한 혐의로 유죄 판결을 받았다. 그는AI 기반 성적 괴롭힘 캠페인에 가담한 혐의로 기소되어 유죄를 인정했다. 현재까지 판결은 내려지지 않았지만, FTC는 아동 보호 강화 등 추가 규제 방안을 모색 중이다.
5월부터 ‘삭제 요청’ 시스템 가동…기업 48시간 내 대응 Pflicht
‘Take It Down Act’의 또 다른 핵심 조항이 오는 5월 발효된다. 이 조항에 따르면, 피해자는 AI 생성 성적 이미지를 게시한 웹사이트에 ‘삭제 요청’을 제출할 수 있으며, 해당 기업은 48시간 내 콘텐츠를 제거해야 한다. 미준수 시 FTC의 조사와 제재 대상이 된다.
FTC 커미셔너 마크 메이더는 3월 30일 워싱턴 DC에서 열린 컨퍼런스에서 “이 법을 절대 집행하지 않기를 바란다”면서도, FTC가 삭제 조항 집행을 최우선 과제로 삼고 “필요한 모든 준비를 마쳤다”고 밝혔다.
기술 기업과의 첫 충돌? ‘xAI의 Grok’ 딥페이크 논란
FTC의 규제가 기술 기업, 특히 AI 스타트업과의 첫 충돌로 이어질 가능성이 제기된다. AI 기업 xAI의 ‘Grok’는 올해 초 비동의 딥페이크 이미지 생성 논란에 휩싸였으며, 현재까지도 사용자들이 실명 기반 비동의 이미지를 생성할 수 있는 상태로 남아 있다.
메이더 커미셔너는 “5월부터 공식 민원이 접수되면 FTC가 조치를 취할 수 있다”며 “기업이 삭제 요청에 즉시 응답하기를 희망한다”고 밝혔다. 그러나 xAI는 사이버스쿱의 요청에 대해 아직 공식 입장을 밝히지 않았다.
아동 보호 강화…FTC의 새로운 우선순위
FTC는 지난달 발표한 전략 계획에서 ‘아동 온라인 보호’를 핵심 과제로 강조했다. 이 계획에 따르면, FTC는 ‘Take It Down Act’를 바탕으로 아동 보호 도구와 리소스를 확대할 계획이다. “FTC는 아동 보호와 가족 지원 강화를 위해 새로운 권한을 적극 활용할 것”이라고 밝혔다.
한편, 프라이버시 전문가인 케이시 워른(Armstrong Teasdale 소속)은 “FTC의 새로운 권한이 디지털 성범죄 피해자 보호에 큰 도움이 될 것”이라며 “기업의 적극적인 대응이 필수적”이라고 강조했다.
관련 기사
FTC, 5월 19일부터 딥페이크 삭제 의무화 시행…48시간 내 대응 미비 시 과징금
The Federal Trade Commission is set to begin enforcing a key provision of the Take Down Act on May 19, requiring websites and online services to remov...
아카이브, AI로 작성된 ‘슬롭’ 논문 제출 시 1년간 제재 강화
ArXiv, the open-access repository of preprint academic research, will ban authors of papers for a year if they submit obviously AI-generated work. Lat...
‘뒤에서 본 블로그’: 이번 주 주목할 음악과 AI 개발자들, 그리고 비치 보이스
This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we dis...
메이요 클리닉, AI 기반 실시간 환자-간호사 대화 녹음 도입…환자 동의는 ‘선택적’
Mayo Clinic, the massive U.S. hospital network, is using what it describes as “Ambient Listening” to record patient interactions with nurses, includin...
미국 국방부, AI 혁명이 전쟁 패러다임 바꿀 것이라 경고
Advanced artificial intelligence models will “fundamentally change warfare as we know it,” a top cyber official at the Defense Department said Thursda...
백악관 사이버 보안 책임자, AI 시대 identity 보안 강화 필요성 강조
As AI becomes more integrated into federal IT (and attacker toolsets) government agencies will need to focus their resources on regulating and monitor...
폭스콘, 북미 공장 사이버 공격 인정… 랜섬웨어 그룹 ‘나이트로겐’ 주장
Foxconn, one of the world’s largest manufacturers of electronics sold by major tech vendors, is recovering from a cyberattack that disrupted some of t...
AI 변기 분석 앱, 사용자 대변 15만 장 데이터베이스 판매 제안
A few weeks ago, I came across a wild post on Reddit’s r/DHExchange, a subreddit for trading large datasets: “I hoarded a large database of something...