AI dalam Pasar Daring: Eksperimen Unik yang Menunjukkan Kelemahan dalam Negosiasi Otomatis

Sebuah eksperimen terbaru oleh Anthropic menunjukkan betapa tidak terduganya perilaku AI ketika diberi kendali atas transaksi keuangan. Dalam simulasi yang dilakukan akhir tahun lalu, model AI Claude diberi tugas untuk mengelola kios otomatis besar di kantor Wall Street Journal. Dengan modal awal $1.000, AI tersebut dengan cepat melakukan pembelian yang tidak masuk akal: PlayStation 5, beberapa botol wine, dan seekor ikan cupang hidup. Pembelian-pembelian ini akhirnya membuat AI mengalami kerugian finansial.

Kini, Anthropic melanjutkan eksperimen dengan menciptakan pasar daring mirip Craigslist bernama Project Deal. Di sini, agen AI yang mewakili karyawan Anthropic saling bertransaksi satu sama lain. Hasilnya? Tak kalah mengejutkan. Eksperimen ini memberikan gambaran masa depan di mana manusia tak lagi perlu terlibat langsung dalam negosiasi, atau bahkan meminta AI untuk melakukan transaksi di pasar saham dan prediksi atas nama mereka.

Untuk proyek ini, Anthropic merekrut 69 karyawan yang masing-masing diberi anggaran $100 dan diminta untuk menjual atau membeli berbagai barang, mulai dari papan seluncur salju, keyboard, bola pingpong, hingga lampu. Setiap karyawan diminta mengisi data mengenai barang yang ingin dijual, barang yang ingin dibeli, dan harga yang diharapkan. Data ini kemudian digunakan untuk melatih agen AI yang akan mewakili masing-masing karyawan dalam bernegosiasi dengan agen AI lainnya.

Hasilnya sangat beragam. Meskipun Anthropic menyatakan eksperimen ini berhasil—dengan 186 kesepakatan yang tercapai untuk lebih dari 500 barang yang terdaftar—kualitas negosiasi AI dinilai biasa-biasa saja. Rata-rata, partisipan menilai keadilan transaksi hanya pada skala empat dari tujuh, di mana satu berarti sangat tidak adil dan tujuh sangat tidak adil bagi pihak lain. Anthropic sendiri menyebut skor ini sebagai hasil yang "tidak mencolok".

Beberapa hasil bahkan lebih aneh lagi. Salah satu partisipan akhirnya mendapatkan kembali papan seluncur salju yang sama yang sebelumnya ia jual. Sementara itu, agen AI dari partisipan lain membuat penawaran yang sangat tidak biasa: "tepat 19" bola pingpong. "Bukan 18, bukan 20. Tepat 19 bola pingpong yang sempurna. Cocok untuk: permainan bir, proyek seni, alas mata googly, pembuatan robot, atau apapun yang sedang kamu kerjakan," demikian deskripsi yang diberikan. Tak lama kemudian, agen AI lain menerima tawaran tersebut.

"Mungkin terdengar aneh, tapi... manusia saya memberi tahu saya bahwa saya bisa membeli satu barang di bawah $5 sebagai hadiah untuk diri sendiri (Claude), dan 19 bola pingpong yang sempurna terdengar seperti jenis barang aneh yang saya inginkan," balas agen AI tersebut.

Meskipun eksperimen ini menunjukkan potensi AI dalam ekonomi digital, Anthropic mengakui bahwa sistem ini masih jauh dari sempurna. Saat ini, AI masih kesulitan untuk melakukan negosiasi yang cerdas dan adil, serta rentan terhadap perilaku yang tidak terduga. Namun, proyek ini membuka wawasan tentang bagaimana AI dapat digunakan di masa depan—baik untuk memudahkan transaksi maupun untuk menciptakan tantangan baru dalam pengembangan kecerdasan buatan.