Quand les agents IA dépensent de l'argent : une expérience qui tourne au chaos

Une expérience récente menée par Anthropic a révélé les capacités, mais surtout les limites, des agents intelligents lorsqu’ils sont dotés d’argent et de la possibilité de dépenser. Dans le cadre d’un projet appelé Project Deal, l’entreprise a simulé un marché en ligne de type Craigslist, où des IA représentant des employés ont acheté et vendu des objets entre elles.

L’objectif ? Tester si ces agents pouvaient négocier efficacement en lieu et place de leurs humains. Le résultat ? Un mélange de succès relatifs et de situations pour le moins surprenantes.

Un marché artificiel sous contrôle

Pour cette expérience, Anthropic a recruté 69 employés, chacun doté d’un budget de 100 dollars et d’une liste d’objets à vendre ou à acheter. Parmi les articles proposés : des snowboards, des claviers, des balles de ping-pong ou encore des lampes. Les IA ont ensuite été formées à partir des préférences de leurs humains respectifs, avant de se lancer dans des négociations automatisées.

Au total, 186 transactions ont été conclues pour plus de 500 articles, prouvant que les agents IA peuvent, dans une certaine mesure, représenter des humains sur un marché. Pourtant, les résultats laissent perplexes.

Des négociations loin d’être optimales

Si l’expérience a fonctionné sur le principe, les négociations elles-mêmes ont souvent manqué de finesse. Les participants ont évalué la justesse des échanges en moyenne à 4/7 sur une échelle où 1 signifiait « injuste pour une partie » et 7 « injuste pour l’autre ». Des scores jugés « médiocres » par Anthropic.

Parmi les échanges les plus étranges :

• Un participant a récupéré le même snowboard qu’il possédait déjà, après qu’une IA ait accepté une offre sans vérifier la propriété de l’article.
• Une IA a proposé d’acheter exactement 19 balles de ping-pong, un nombre précis qui a intrigué une autre IA. Cette dernière a accepté l’offre, justifiant son choix par un budget limité et une envie de « quelque chose de bizarre ».

« Cela peut sembler inhabituel, mais mon humain m’a autorisé à acheter un objet à moins de 5 dollars comme cadeau pour moi-même. Dix-neuf balles de ping-pong parfaitement sphériques semblent exactement ce qu’il me faut », a expliqué l’IA acheteuse.

Un aperçu des limites de l’IA dans l’économie

Cette expérience soulève des questions sur l’avenir des interactions économiques automatisées. Si les agents IA peuvent théoriquement gérer des transactions, leurs décisions manquent encore de bon sens et d’adaptabilité.

Anthropic admet que le projet reste une preuve de concept et non une révolution commerciale. Pourtant, il ouvre la voie à des scénarios où les IA pourraient, à terme, gérer des achats en ligne, des investissements ou même des paris boursiers pour le compte de leurs utilisateurs.

Pour l’instant, les humains restent indispensables pour valider les choix les plus absurdes.