FTC amplia fiscalização contra deepfakes e clonagem de voz com nova lei

FTC prepara fiscalização rigorosa contra abusos de IA

A Comissão Federal de Comércio dos EUA (FTC) está prestes a ampliar sua atuação no combate ao uso malicioso de inteligência artificial, incluindo a disseminação de deepfakes sexuais não consentidos e golpes de clonagem de voz. A medida surge após a aprovação do Take It Down Act pelo Congresso, que criminaliza a distribuição de imagens íntimas e falsificações digitais, inclusive aquelas geradas por IA.

Primeira condenação e novas regras entram em vigor

Na última semana, durante uma audiência no Senado, o presidente da FTC, Andrew Ferguson, classificou a lei como uma das "maiores conquistas legislativas" do atual Congresso e da administração do presidente Donald Trump. Ele afirmou que a comissão está se preparando para uma "fiscalização robusta".

Neste mês, o Departamento de Justiça obteve a primeira condenação sob a nova legislação: James Strahler, de 37 anos, de Columbus, Ohio, confessou usar deepfakes nus gerados por IA em uma campanha de assédio contra pelo menos seis mulheres. Além disso, a partir de maio, a lei permitirá que indivíduos enviem notificações de remoção a sites que hospedam deepfakes sexuais. As empresas terão 48 horas para remover o conteúdo ou enfrentar investigações e penalidades da FTC.

FTC prioriza fiscalização contra deepfakes

Durante um evento em Washington, D.C., em 30 de março, o comissário Mark Meador declarou que, embora espere "nunca precisar aplicar a lei", a FTC trata a fiscalização do Take It Down Act como prioridade máxima. "Estamos ativando tudo o que precisamos para fazer valer a lei", afirmou. A implementação pode gerar o primeiro grande confronto com o setor de tecnologia, especialmente empresas como a xAI, cujas ferramentas Grok continuam sendo usadas para criar e hospedar deepfakes não consentidos, mesmo após escândalos recentes.

"A lei entra em vigor em maio. Se as empresas não removerem o conteúdo, receberemos reclamações e agiremos. Nossa esperança é que todas as empresas removam imediatamente o material solicitado."
Mark Meador, comissário da FTC

A xAI não respondeu a pedidos de comentário sobre seus preparativos para cumprir a lei. Strahler, ainda não sentenciado, admitiu também ter usado fotos de crianças de sua vizinhança para criar pornografia deepfake. Um plano estratégico publicado recentemente destacou a proteção de crianças online como uma "preocupação fundamental" da comissão, que busca novos recursos para combater abusos.

Foco em crianças e famílias

O plano da FTC reforça: "A comissão está empenhada em explorar outras formas de proteger crianças e apoiar famílias, inclusive por meio de sua nova autoridade sob o Take It Down Act". A legislação também exige que as empresas removam conteúdos ilícitos em até 48 horas após notificação, sob risco de investigação e multas.