AI-aktörer misslyckas med löften om självständiga anställda – säkerhetsrisker och överdrifter avslöjade

För exakt ett år sedan gjorde Jason Clinton, säkerhetschef på AI-företaget Anthropic, ett uppmärksammat uttalande: inom tolv månader skulle självständiga AI-aktörer börja arbeta i de digitala systemen hos stora företag världen över. Clinton beskrev dessa AI-aktörer som digitala anställda med egna minnen, unika roller och till och med egna inloggningsuppgifter.

"I den här världen finns det många säkerhetsproblem som vi ännu inte har löst," sa Clinton till Axios i fjol. Hans varning riktades främst till säkerhetsbranschen, men verkligheten har sedan dess visat att hans prognos var kraftigt missvisande – och Clinton är långt ifrån ensam om att ha överdrivit AI-aktörernas potential.

Idag, ett år senare, kämpar så kallade agentiska AI – den term Clinton använde för sina digitala anställda – med att leva upp till förväntningarna. Kritiska säkerhetsfel och meningslösa PR-initiativ har dominerat utvecklingen. En nyligen publicerad studie hävdar till och med att AI-aktörer aldrig kommer att kunna bli tillförlitliga eller korrekta verktyg. Om detta stämmer innebär det att deras förmåga att bidra till ekonomin har varit och fortsätter att vara kraftigt överskattad.

Clintons misslyckade prognos följer ett mönster för Anthropic. I mars förra året förutspådde företagets VD, Dario Amodei, att AI inom sex månader skulle kunna skriva 90 procent av all programkod. Verkligheten visade sig dock snabbt annorlunda: studier har sedan dess konstaterat att AI-verktyg för kodning ofta saktar ner mjukvaruutvecklare på grund av undermålig kvalitet på genererad kod.

Med tanke på de stora ekonomiska incitamenten för tech-branschen att framställa AI som en framtidslösning framstår dessa ledare alltmer som desperata PR-strateger snarare än trovärdiga röstgivare. Massiva investeringar har ännu inte gett de förväntade vinsterna, och branschen tycks kämpa för att upprätthålla intresset.

Läs också: Läckan avslöjar att Anthropic spårar användares språkbruk och klassificerar det som "negativt"