AI-trainers in nood: Mercor gehackt en contractors slachtoffer van uitbuiting

De AI-arbeidsmarkt is in crisis: onderbetaalde en overwerkte professionals trainen kunstmatige intelligentie voor bedrijven die hen zelf niet in dienst nemen. Mercor, een opvallende startup uit San Francisco, speelt hierop in door hoogopgeleide maar onderbenutte experts in te huren voor het trainen van AI-modellen – zonder dat zij weten voor wie ze werken. De werkomstandigheden zijn slecht: lange shifts, onervaren managers en plotselinge contractbeëindigingen zonder waarschuwing.

Nu blijkt dat deze praktijken niet alleen mensonwaardig zijn, maar ook een gevaar vormen voor de bedrijven die Mercor inhuurden. OpenAI en Anthropic behoren tot de klanten van Mercor, zo meldde New York Magazine eerder. Afgelopen maand maakte Mercor bekend gehackt te zijn via een kwetsbaarheid in het open-sourceproject LiteLLM. Bij de inbraak werden onder meer Slack-gesprekken en video-opnames gestolen waarin Mercor-medewerkers en AI-systemen met elkaar spraken. Hierdoor kunnen gevoelige bedrijfsgegevens in verkeerde handen zijn gevallen.

Een woordvoerder van Mercor liet weten:

«We voeren een grondig onderzoek uit met behulp van externe forensische experts. We houden onze klanten en contractors op de hoogte en zetten alles in om de situatie zo snel mogelijk op te lossen.»

De hack heeft echter al ernstige gevolgen. Vijf rechtszaken zijn aangespannen tegen Mercor, zo berichtte Business Insider. De aanklagers beschuldigen het bedrijf van schending van privacy- en consumentenwetten, met het risico dat persoonlijke gegevens zoals burgerservicenummers en adressen zijn gelekt. Dit is niet de eerste keer dat Mercor in opspraak komt. Sinds november zijn er al drie class actions aangespannen, waarbij contractors klagen over gebrek aan inspraak en transparantie.

De grootste zorg voor bedrijven als Meta is echter niet het welzijn van de contractors, maar het risico op concurrentievoordeelverlies. Meta heeft alle samenwerking met Mercor opgeschort tot het onderzoek is afgerond. De hack onthult opnieuw de kwetsbaarheid van de AI-toeleveringsketen, die sterk leunt op een leger onderbetaalde en onzeker werkende trainers. De praktijken van Mercor illustreren de donkere kant van de AI-revolutie: efficiëntie en winst gaan vaak ten koste van menselijkheid en veiligheid.