Företag säljer gamla Slack-meddelanden och mejl för att träna AI – etiken ifrågasätts

En ny marknad för digitala rester

En ny affärsmodell har uppstått inom techbranschen: företag som gått i konkurs säljer sina anställdas digitala kommunikation – såsom Slack-meddelanden och mejl – till AI-företag för träning av AI-modeller. Denna trend har skapat en hel ekosystem av aktörer som specialiserar sig på att hantera och sälja dessa digitala tillgångar, rapporterar Forbes.

Varför är denna data så eftertraktad?

Kvalitativ träningsdata är avgörande för att utveckla AI-modeller, men tillgången har minskat sedan AI-boomen. Data från digitala arbetsmiljöer som Slack är särskilt värdefull eftersom den speglar verkliga arbetsflöden. Detta möjliggör skapandet av simulerade arbetsmiljöer, så kallade "RL gyms" (reinforcement learning gyms), där AI-agenter kan öva på uppgifter som liknar verkliga arbetsuppgifter.

Ali Ansari, grundare av företaget micro1, som säljer en virtuell koncern för AI-utbildning, förklarar:

"Modellföretag inser att bruset från verkliga miljöer krävs för att noggrant testa AI-modeller."

En blomstrande marknad för RL gyms

Efterfrågan på dessa simulerade miljöer är så stor att Anthropic överväger att investera upp till en miljard dollar i RL gyms under 2024, enligt The Information. Flera startups inom området, som Prime Intellect och Fleet, värderas nu till liknande belopp.

Hur går försäljningen till?

Företag som lägger ner verksamheten kan nu sälja sina digitala tillgångar via tjänster som SimpleClosure, som marknadsför sig som "TurboTax för nedläggningar". Deras verktyg Asset Hub möjliggör försäljning av Slack-arkiv, mejl och kodbibliotek. Enligt VD:n Dori Yona har tjänsten hanterat nästan 100 affärer under det senaste året och genererat över en miljon dollar för grundarna av nedlagda företag.

Yona hävdar att data anonymiseras innan försäljning, men experter ifrågasätter effektiviteten i denna process. Marc Roteberg, grundare av Center for AI and Digital Policy, säger till Forbes:

"Integritetsfrågorna här är betydande. Anställdas integritet är en nyckelfråga, särskilt eftersom många är beroende av interna kommunikationsverktyg som Slack. Det är inte generisk data – det handlar om identifierbara personer."

Etiska och juridiska risker

Experter varnar för att anonymisering ofta brister, vilket innebär att köpare av datan potentiellt kan identifiera enskilda anställda. Dessutom väcker försäljningen av intern kommunikation etiska frågor: hade det varit acceptabelt att spela in och sälja alla samtal på ett fysiskt kontor för vinst, hade det knappast accepterats. Nu sker samma sak digitalt – och betraktas som affärsmässigt klokt.

Roteberg tillägger:

"Om anonymiseringen inte görs korrekt finns det risk att företag med tillgång till datan kan identifiera individer."

Framtiden för AI-träning

Denna trend speglar den snabba utvecklingen inom AI-industrin, där tillgång till realistisk och högkvalitativ data är avgörande. Samtidigt väcker den viktiga frågor om integritet, etik och vem som egentligen äger de digitala spåren av vårt arbetsliv. Medan vissa ser affärsmöjligheter, varnar andra för potentiella rättsliga och moraliska konsekvenser.