Clarifai supprime 3 millions de photos d'OKCupid utilisées pour l'entraînement à la reconnaissance faciale

Une violation des politiques de confidentialité révélée après 10 ans

En 2014, l'entreprise d'intelligence artificielle Clarifai a obtenu illégalement 3 millions de photos de profils du site de rencontre OKCupid pour entraîner son système de reconnaissance faciale. Selon un rapport de Reuters, ces images ont finalement été supprimées en avril 2024, après un accord passé avec la Federal Trade Commission (FTC).

Un accord sous la pression réglementaire

La FTC avait ouvert une enquête en 2019, après des révélations du New York Times indiquant que Clarifai avait constitué une base de données d'entraînement à partir des photos d'OKCupid, en violation flagrante de la politique de confidentialité du site. L'entreprise a confirmé à la représentante américaine Lori Trahan avoir détruit les modèles entraînés sur ces données et n'avoir partagé ces informations avec aucun tiers.

Dans le cadre de l'accord, la FTC a interdit à Match Group, propriétaire d'OKCupid, de faussement représenter ses pratiques de collecte de données et ses contrôles de confidentialité. Une mesure jugée paradoxale, puisque la FTC interdit déjà ces pratiques par ses règles existantes.

Des pratiques éthiques et des réactions controversées

Les échanges internes révélés par les documents judiciaires montrent que Clarifai avait explicitement demandé l'accès à ces données en 2014. Matthew Zeiler, fondateur de Clarifai, avait alors écrit à Maxwell Krohn, cofondateur d'OKCupid :

« Nous collectons des données en ce moment et nous venons de réaliser qu'OKCupid doit avoir une énorme quantité de données géniales pour cela. »

Ces photos ont servi à développer un outil capable d'identifier l'âge, le genre et l'origine ethnique des personnes. Zeiler avait également minimisé les préoccupations en matière de vie privée en 2019, déclarant au New York Times :

« Il faut avoir un certain niveau de confiance envers les entreprises technologiques comme Clarifai pour utiliser ces technologies puissantes à bon escient et s'y habituer. »

Un passé controversé

Clarifai a également été critiquée pour avoir exploité des images de caméras de surveillance urbaines sans autorisation. Une initiative, selon les rapports, aurait finalement été abandonnée.

Des implications pour l'industrie de l'IA

Cet incident soulève des questions sur la protection des données personnelles dans le secteur de l'IA. Les entreprises doivent désormais se conformer à des réglementations strictes, sous peine de sanctions. L'accord avec la FTC envoie un signal fort aux acteurs du secteur, rappelant que les violations de la vie privée ne restent pas impunies, même après des années.

Ce qu'il faut retenir

• Clarifai a supprimé 3 millions de photos d'OKCupid, utilisées pour entraîner un outil de reconnaissance faciale.
• L'entreprise a confirmé avoir détruit les modèles entraînés et n'avoir partagé les données avec aucun tiers.
• La FTC a interdit à Match Group de faussement représenter ses pratiques de collecte de données.
• Les fondateurs d'OKCupid étaient également investisseurs dans Clarifai.
• Cet accord rappelle l'importance de la conformité aux réglementations en matière de protection des données.