Meta avsluttet avtale med underleverandør etter at ansatte måtte se på intimt materiale fra Ray-Ban AI-briller

I februar i år fortalte ansatte hos Meta i Kenya svenske medier Svenska Dagbladet og Göteborgs-Posten om de vanskelige arbeidsforholdene knyttet til gjennomgangen av opptak fra selskapets Ray-Ban AI-briller. Flere rapporterte om å ha sett brukere i intime situasjoner, som å kle av seg, bruke toalettet eller delta i seksuelle handlinger. Én ansatt fortalte at vedkommende til og med så en manns kone kle av seg på soverommet etter at mannen hadde lagt brillene på bordet.

«Du forstår at dette er privatlivet til noen du ser på, samtidig som du bare forventes å utføre jobben,» sa en ansatt til de svenske avisene. «Du skal ikke stille spørsmål. Hvis du begynner å stille spørsmål, er du ute.»

To måneder etter at anklagene ble offentliggjort, reagerte Meta på en måte som har blitt møtt med stor skepsis. Selskapet valgte å avslutte hele kontrakten med den kenyanske underleverandøren Sama, melder BBC. En arbeidstakerorganisasjon i Kenya hevder at oppsigelsen var en form for represalier etter at ansatte gikk offentlig ut med kritikk. Meta har ikke kommentert denne påstanden direkte, men uttalte til BBC at de «bestemte oss for å avslutte samarbeidet med Sama fordi de ikke lever opp til våre standarder». Samtidig understreket selskapet at de tok arbeidstakernes påstander «på alvor».

«Bilder og videoer er private for brukerne,» sa en talskvinne for Meta. «Mennesker gjennomgår AI-innhold for å forbedre produktets ytelse, noe vi har tydelig samtykke til fra brukerne.»

Sama avviste imidlertid Meta sine anklager og forsvarte sine ansatte. «Sama har konsekvent oppfylt de operative, sikkerhetsmessige og kvalitetsmessige standardene som kreves i våre oppdrag, inkludert samarbeidet med Meta,» heter det i en uttalelse. «Vi har aldri blitt varslet om manglende oppfyllelse av disse standardene, og vi står bak kvaliteten og integriteten i arbeidet vårt.»

Mørke sider ved AI-bransjen

Anklagene kaster lys over de mørke sidene ved AI-industrien og tech-bransjen generelt: Hvor mye av arbeidet drives av underbetalte arbeidere i utlandet, og hvor mye data som blir gjennomgått bak kulissene. Hos Sama utførte arbeiderne datamerking, en prosess der de manuelt merket bilder, videoer og annet innhold slik at AI-modeller senere kan gjenkjenne og tolke det. For Ray-Ban-brillene skulle dette bidra til at den innebygde AI-funksjonen fungerte sømløst.

Samtidig har opplevelsen av Meta sine AI-briller blitt forsterket av at de omtales som «perversbriller» – en betegnelse som stammer fra bekymringer om at brukere kan filme folk uten deres samtykke eller kunnskap. Selv om brillene har en liten lysdiode som varsler når de tar opp, har det blitt rapportert at denne kan deaktiveres. Mange brukere har også funnet måter å dekke over lyset på. Ansatte hos Sama fortalte at noen brukere tilsynelatende ikke var klar over at brillene var i opptaksmodus.

«Folk kan filme seg selv på feil måte uten å vite hva de egentlig tar opp,» sa en ansatt til de svenske avisene.

Myndigheter i Storbritannia og Kenya undersøker saken

De alvorlige påstandene har ført til at Meta nå er under sterk granskning. Det britiske Information Commissioner’s Office (ICO) har kontaktet Meta for å få klarhet i de «bekymringsverdige» rapportene. I Kenya har Data Protection Commissioner varslet at de vil undersøke mulige brudd på personvern knyttet til Meta-brillene.

Naftali Wambalo fra Africa Tech Workers Movement har uttalt at han har snakket med ansatte som har vært involvert i saken, og at de nå frykter represalier etter å ha varslet om forholdene.