La FTC renforce son arsenal contre l'IA malveillante : deepfakes et arnaques vocales dans le viseur

La FTC s’engage contre les abus de l’IA

La Federal Trade Commission (FTC) annonce un renforcement de ses actions pour lutter contre les usages malveillants de l’intelligence artificielle, incluant les deepfakes sexuels non consentis et les arnaques par clonage vocal. Cette initiative s’appuie sur le Take It Down Act, une loi adoptée l’an dernier par le Congrès, qui criminalise la diffusion d’images intimes ou de contrefaçons numériques, y compris celles générées par IA.

Premières condamnations et préparation à l’application

Lors d’une audition au Sénat la semaine dernière, le président de la FTC, Andrew Ferguson, a salué cette loi comme l’une des « plus grandes réalisations législatives » du Congrès actuel et de l’administration Trump. Il a confirmé que l’agence se préparait à une « application rigoureuse » de la réglementation.

Le Département de la Justice a déjà enregistré sa première condamnation sous cette loi : James Strahler, 37 ans, résident de Columbus (Ohio), a plaidé coupable pour avoir utilisé des deepfakes pornographiques générés par IA dans une campagne de harcèlement visant au moins six femmes. Une autre disposition du texte, entrant en vigueur en mai, permettra aux victimes de demander le retrait de contenus via des notifications officielles. Les plateformes disposeront de 48 heures pour supprimer les contenus sous peine d’enquête et de sanctions de la FTC.

Une confrontation potentielle avec les géants de la tech

Le commissaire Mark Meador a déclaré lors d’une conférence à Washington le 30 mars que, bien que l’agence espère « ne jamais avoir à appliquer ces mesures », la priorité est donnée à leur mise en œuvre. « Nous mettons tout en place pour être prêts », a-t-il affirmé.

Cette nouvelle réglementation pourrait rapidement mener à un affrontement avec le secteur technologique, notamment des entreprises comme xAI. Son outil Grok est régulièrement utilisé pour créer et héberger des deepfakes non consentis, malgré les scandales récents. Interrogé sur l’application de la loi à Grok, Meador a précisé que la FTC ne pourrait agir qu’à partir de mai, après réception de plaintes formelles : « Nous attendrons de voir comment les entreprises réagissent. Mon espoir est qu’elles suppriment immédiatement les contenus signalés. »

xAI n’a pas répondu aux demandes de commentaires de CyberScoop concernant ses préparatifs pour se conformer au *Take It Down Act*.

Protection des mineurs : une priorité absolue

Strahler a également admis avoir utilisé des photos d’enfants de son quartier pour créer de la pornographie deepfake. Un plan stratégique publié ce mois-ci souligne que la protection des mineurs en ligne est une « préoccupation majeure » pour la FTC, nécessitant des outils et ressources supplémentaires pour les consommateurs. « La commission s’engage à explorer d’autres moyens pour protéger les enfants et soutenir les familles, y compris via les nouvelles autorités du *Take It Down Act* », indique le document.

Un tournant dans la régulation de l’IA

Cette initiative marque une étape clé dans la régulation des technologies génératives. Avec des condamnations déjà en cours et des mécanismes de retrait accélérés, la FTC envoie un signal fort aux acteurs du numérique : l’IA ne sera plus un terrain sans loi pour les abus. Les prochains mois seront déterminants pour évaluer l’efficacité de ces mesures et leur impact sur les pratiques des plateformes.