AI-virksomhed i skandale: Hackere stjæler følsomme data fra underbetalte medarbejdere

AI-firma ansatte arbejdsløse til at træne modeller – nu er data blevet hacket

En ny og bekymrende praksis er opstået i Silicon Valleys skyggeøkonomi: Det San Francisco-baserede AI-firma Mercor har rekrutteret uddannede, men arbejdsløse eller underbeskæftigede eksperter til at træne AI-modeller til opgaver, de selv ikke kan få jobbet til at udføre.

Ifølge en rapport i New York Magazine er arbejdsforholdene på Mercor præget af lange vagter, uerfarne ledere og pludselige ophør af kontrakter uden varsel. Firmaet har holdt sine medarbejdere i uvidenhed om, hvilke AI-systemer de egentlig træner.

Hack afslører sårbarhed i AI-forsyningskæden

Nu har Mercor erkendt, at det blev hacket sidste måned. En sårbarhed i det open source-projekt LiteLLM blev udnyttet, hvilket førte til læk af følsomme data. Ifølge TechCrunch, som har gennemgået det stjålne materiale, indeholdt det blandt andet Slack-beskeder og videoer af samtaler mellem Mercors AI-systemer og de ansatte.

Dette betyder, at data fra Mercors kunder – herunder OpenAI og Anthropic – sandsynligvis er blevet kompromitteret. En talsmand for Mercor udtalte til TechCrunch:

«Vi gennemfører en grundig undersøgelse med bistand fra førende it-sikkerhedseksperter. Vi vil fortsat kommunikere direkte med vores kunder og medarbejdere og afsætte de nødvendige ressourcer for at løse sagen hurtigst muligt.»

Fem sagsanlæg og mistillid fra techgiganter

Situationen er blevet endnu mere alvorlig, efter at fem af Mercors kontraktansatte har anlagt sagsanlæg mod firmaet. Ifølge Business Insider anklager de Mercor for at have overtrådt persondata- og forbrugerbeskyttelseslove ved muligvis at have lækket følsomme oplysninger som CPR-numre og adresser til uvedkommende.

Mens techgiganter som Meta nu har indstillet samarbejdet med Mercor under deres egen undersøgelse af hacket, er bekymringen ikke de underbetalte medarbejderes vilkår. Deres største frygt er snarere, at konkurrenter kan tilegne sig indsigt i, hvordan deres AI-modeller bliver trænet.

Langvarige problemer med arbejdsvilkår

Dette er ikke første gang, Mercor har været i søgelyset. Allerede inden hacket havde firmaet været genstand for tre klassesagsanlæg over de seneste syv måneder. Medarbejderne har blandt andet anklaget firmaet for at udnytte uafhængige kontraktører uden reel indflydelse eller indsigt i arbejdet.

I november blev kontraktansatte opsagt, men tilbudt at fortsætte på et andet projekt – dog til en betydeligt lavere timeløn. Eksperter peger på, at dette blot er endnu et eksempel på de risici, der følger med at basere AI-træning på en arbejdsstyrke af underbetalte og udnyttede kontraktører.