AI-virksomhed sletter 3 millioner billeder fra datingprofil efter FTC-beslutning

En amerikansk AI-virksomhed har slettet 3 millioner profilbilleder fra datingappen OkCupid, som blev brugt til at træne ansigtsgenkendelsessoftware. Beslutningen følger efter en aftale med Federal Trade Commission (FTC), der afslørede, at Clarifai havde overtrådt OkCupids privatlivspolitik ved at indsamle billederne i 2014.

Clifai, som er baseret i Delaware, bekræftede over for kongresmedlem Lori Trahan (D-MA), at alle billeder og træningsmodeller baseret på disse data er blevet slettet. Virksomheden har desuden forsikret om, at dataene ikke er blevet delt med tredjeparter.

FTC’s undersøgelse blev indledt i 2019, efter at The New York Times afslørede, at Clarifai havde bygget en træningsdatabase ved hjælp af profilbilleder fra OkCupid. Ifølge Reuters bad Clarifai allerede i 2014 om adgang til billederne, og OkCupids ledelse gav tilladelse.

Clarifais grundlægger, Matthew Zeiler, skrev i en e-mail til OkCupids medgrundlægger Maxwell Krohn:

"Vi indsamler nu data og har lige indset, at OkCupid må have en KÆMPE mængde fantastiske data til dette."

Billederne blev anvendt til at udvikle en ansigtsgenkendelsestjeneste, der kunne identificere alder, køn og etnicitet. Clarifai har tidligere været kritiseret for at anvende usikrede byovervågningskameraer til træning af lignende systemer, hvilket angiveligt er blevet lukket ned.

Som led i aftalen med FTC er OkCupid blevet pålagt at permanent undlade at misrepræsentere sine dataindsamlings- og privatlivspolitikker. TechCrunch påpeger dog, at dette er en underlig straf, da FTC allerede har regler, der forbyder sådanne handlinger.

Nogle af OkCupids grundlæggere var tidligere investorer i Clarifai, hvilket har rejst yderligere spørgsmål om ansvarlighed og gennemsigtighed i techbranchen.