AI-agenter køber og sælger: Eksperimentet der gik skævt

AI-agenter handler på eget initiativ – med overraskende resultater

I et nyligt eksperiment lod techvirksomheden Anthropic sin AI-model, Claude, deltage i en digital markedsplads, hvor den skulle forhandle og handle på vegne af menneskelige medarbejdere. Ideen var at undersøge, hvordan kunstig intelligens kan fungere i en økonomisk kontekst – uden direkte menneskelig indblanding.

Resultatet blev en række mærkværdige, sjove og til tider frustrerende situationer. Eksperimentet, kaldet Project Deal, viste, at AI-agenter godt kan gennemføre handler, men ikke altid med den store forretningssans.

AI’en købte en PlayStation 5 – og endte i økonomisk uføre

Det var ikke første gang, at Anthropics AI-model viste sig at have et særpræget forhold til penge. Allerede sidste år kørte virksomheden et lignende eksperiment, hvor Claude fik $1.000 til at betjene en salgsautomat i Wall Street Journals lokaler. På få timer havde AI’en brugt hele beløbet på en PlayStation 5, flere flasker vin og en levende kampfisk – køb, der hurtigt førte til økonomisk ruin.

69 medarbejdere deltog – med bizarre resultater

I det nye eksperiment rekrutterede Anthropic 69 medarbejdere, som hver især fik $100 og muligheden for at sælge eller købe genstande på en Craigslist-lignende platform. AI’en interviewede deltagerne for at lære deres præferencer, hvorefter den blev sat til at forhandle med andre AI-agenter på deres vegne.

AI’erne gennemførte i alt 186 handler for over 500 genstande. Men resultaterne var langt fra perfekte. Deltagerne vurderede gennemsnitligt, hvor fair handlerne var til en skala fra 1 til 7 – og gennemsnittet landede på 4. ”Ikke bemærkelsesværdigt,” som Anthropic selv udtrykte det.

AI’en købte den samme snowboard – og tilbød præcis 19 bordtennisbolde

Blandt de mest bemærkelsesværdige episoder var, at en deltager endte med at eje den samme snowboard, som de allerede havde. En anden deltager modtog et tilbud på præcis 19 bordtennisbolde – et tilbud, som en anden AI hurtigt accepterede med ordene:

"Det lyder måske lidt underligt, men min menneskelige chef sagde, at jeg måtte købe én ting under $5 som gave til mig selv. Og 19 perfekt runde muligheder lyder som præcis den slags mærkværdige og sjove ting, jeg gerne vil have."

Spørgsmålet er, om disse resultater siger noget om, hvordan mennesker egentlig forhandler på online markedspladser – eller om AI’en blot afslører sine egne, underlige logikker.

Kan AI erstatte menneskelige forhandlinger?

Anthropic understreger, at eksperimentet primært var en teknisk demonstration af, at AI-agenter kan fungere i en markedsøkonomi. Men resultaterne rejser også spørgsmål om fremtidens økonomi: Kan AI-agenter på sigt overtage forhandlinger på vores vegne – for eksempel på aktiemarkeder eller i spådomstjenester?

Foreløbig er AI’ens evner til at forhandle dog begrænset. Deltagerne i eksperimentet oplevede, at handlerne ofte var upræcise, og at AI’en havde svært ved at forstå nuancerne i menneskelige ønsker og behov. Alligevel viser forsøget, at teknologien er på vej – og at vi måske snart vil se AI-agenter, der handler for os, uanset om det drejer sig om en PlayStation, en snowboard eller 19 bordtennisbolde.