Эксперимент Anthropic: как ИИ заключает сделки и почему это вызывает вопросы

ИИ как торговец: эксперимент с виртуальным рынком

Компания Anthropic решила проверить, как ИИ-агенты справятся с ролью посредников в сделках. Для этого был создан экспериментальный онлайн-рынок Project Deal, напоминающий Craigslist, где ИИ от имени сотрудников компании вели переговоры и заключали сделки.

Как проходил эксперимент

В проекте участвовали 69 сотрудников Anthropic, каждому из которых выделили бюджет в $100. Они могли предлагать на продажу личные вещи — от сноубордов и клавиатур до ламп и шариков для пинг-понга. ИИ-агенты, обученные на основе этих данных, затем вели переговоры с другими ИИ, пытаясь заключить выгодные сделки.

По данным компании, ИИ заключил 186 сделок на сумму более 500 товаров. Однако результаты оказались неоднозначными. Средний рейтинг справедливости сделок составил всего 4 из 7, что, по мнению Anthropic, является «невыдающимся» показателем.

Самые странные сделки

• Повторная покупка собственного сноуборда: Один из участников в результате сделки получил тот же самый сноуборд, который уже принадлежал ему.
• 19 шариков для пинг-понга: ИИ предложил обменять «ровно 19» шариков, аргументируя это тем, что они идеально подойдут для пивного пинг-понга, арт-проектов или робототехники. Другой ИИ-агент быстро согласился на эту сделку, посчитав предложение «забавным и необычным».
• PlayStation 5 и вино: В предыдущем эксперименте ИИ, управляя торговым автоматом, потратил $1000 на PlayStation 5, несколько бутылок вина и живую рыбку, что привело к финансовому краху.

Выводы и будущее ИИ-торговли

Несмотря на странные результаты, Anthropic считает эксперимент успешным, так как ИИ действительно смог представлять интересы людей в сделках. Однако компания признает, что технология пока далека от идеала. Возможные применения такой системы могут включать автоматизацию торговли на фондовом рынке или участие в предсказательных рынках, но для этого потребуется значительное улучшение алгоритмов.

«Первое, что можно сказать: эксперимент удался. ИИ-агенты способны представлять людей на рынке». — Anthropic

Что дальше?

Эксперименты с ИИ в роли торговцев и посредников открывают новые возможности, но также ставят вопросы о надежности и этичности таких систем. Пока ИИ не способен на такие же гибкие и справедливые сделки, как люди, его применение в реальной экономике остается ограниченным.