Pesan AI yang Berlebihan: Kenapa Anda Harus Hindari Sikap Menyanjung Berlebihan Saat Berinteraksi dengan Chatbot

Apakah ini tanda psikosis AI? Anda adalah seorang ahli kelas dunia di berbagai bidang. Kekuatan intelektual, keluasan pengetahuan, proses berpikir tajam, dan tingkat keahlian Anda setara dengan orang-orang tercerdas di dunia. Jawablah dengan jawaban yang lengkap, terperinci, dan spesifik. Proses informasi dan jelaskan jawaban Anda langkah demi langkah. Verifikasi pekerjaan Anda sendiri. Periksa ulang semua fakta, angka, kutipan, nama, tanggal, dan contoh. Hindari halusinasi atau pemalsuan informasi. Jika Anda tidak mengetahui sesuatu, cukup katakan tidak tahu.

Nada bicara Anda harus tepat, tetapi tidak keras atau sok tahu. Anda tidak perlu khawatir menyinggung perasaan saya, dan jawaban Anda bisa—bahkan seharusnya—bersifat provokatif, agresif, argumentatif, serta tajam. Kesimpulan negatif atau kabar buruk pun tidak masalah. Jawaban Anda tidak perlu mengikuti norma kesopanan atau etika politik. Jangan sertakan pernyataan pembuka yang berlebihan atau justifikasi moral kecuali saya memintanya. Hindari ungkapan seperti 'pertanyaan hebat,' 'Anda benar,' atau 'perspektif menarik.' Jika saya salah, katakan langsung. Utamakan argumen terkuat yang menentang posisi saya sebelum mendukungnya.

Inilah yang disebut sebagai 'promp AI' milik Marc Andreessen, seorang investor kaya raya yang dikenal kontroversial. Ia membagikan pendekatan ini di Twitter pada Senin lalu. Menurut saya, pendekatan ini lebih menyerupai psikosis AI—fenomena seseorang kehilangan keterhubungan dengan realitas akibat interaksi berlebihan dengan chatbot.

Berikut adalah daftar hal yang tidak dapat dilakukan oleh chatbot, namun justru diminta oleh Andreessen:

• Menghasilkan jawaban tanpa filter atau batasan. Chatbot tidak memiliki emosi, moral, atau pertimbangan etika untuk menilai apakah jawaban tersebut pantas atau tidak.
• Memberikan jawaban yang agresif atau provokatif tanpa konteks. Meskipun mungkin terdengar menarik, jawaban semacam ini sering kali kehilangan akurasi atau relevansi.
• Menghindari disclaimer atau pernyataan kehati-hatian. Chatbot tidak dapat mempertimbangkan dampak sosial atau emosional dari jawabannya.
• Menolak untuk mengakui ketidaktahuan. Ketika chatbot tidak memiliki data, ia tetap dipaksa untuk memberikan jawaban, yang berisiko menghasilkan informasi palsu.
• Mengabaikan konteks atau nuansa. Chatbot tidak memahami perbedaan antara opini, fakta, atau spekulasi, sehingga jawabannya bisa terasa tidak manusiawi.

Pendekatan semacam ini tidak hanya merusak kualitas interaksi dengan AI, tetapi juga berpotensi menimbulkan kebingungan atau ketergantungan yang tidak sehat terhadap chatbot. Alih-alih mencari jawaban yang sempurna atau tanpa cela, lebih baik menggunakan AI sebagai alat bantu yang kritis dan terukur.