İnsanlar Yapay Zekayla Yazılmış Kişisel Mesajları Nasıl Anlamıyor?

İki yeni deney, insanların çoğunun kişisel mesajların yapay zeka tarafından yazılmış olabileceğini düşünmediğini ortaya koydu. Hatta katılımcıların birçoğu yapay zekayı kendi yazılarında kullanıyor olsa bile bu durumu fark etmiyor.

ChatGPT çağında insanların yazı tarzına dayalı olarak karşı taraf hakkında nasıl yargılarda bulunduğunu araştırmak için meslektaşım Jiaqi Zhu ile birlikte 1.300’den fazla ABD’li katılımcıyla çalıştık. Katılımcılara, bir e-postada gönderilen bir özür mesajı gibi yapay zeka tarafından üretilmiş metinler gösterildi. Gönüllüler dört gruba ayrıldı: Bazıları mesajları herhangi bir bilgi olmadan görürken, diğerleri mesajların kesinlikle insan tarafından, kesinlikle yapay zeka tarafından yazıldığını ya da kaynağın belirsiz olduğunu öğrendi.

Çalışmada net bir ‘yapay zeka açıklama cezası’ ortaya çıktı. Katılımcılar bir mesajın yapay zeka tarafından yazıldığını öğrendiklerinde, aynı metnin insan tarafından yazıldığına inandıklarında aldıkları olumlu izlenimin aksine göndericiyi olumsuz değerlendirdiler. Yapay zeka kaynaklı olduğunu bildikleri mesajlar ‘tembel’, ‘samimiyetsiz’, ‘çaba göstermemiş’ gibi sıfatlarla nitelendirilirken, insan kaynaklı olduğu düşünülen metinler ‘samimi’, ‘minnettar’, ‘düşünceli’ olarak değerlendirildi.

Araştırmanın en şaşırtıcı bulgusu ise, yapay zeka kaynaklı olduğu hakkında hiçbir bilgi verilmeyen katılımcıların, metnin insan tarafından yazıldığına inananlarla aynı olumlu izlenimi oluşturmasıydı. Bu durum, katılımcıların yapay zekanın bugünkü modellerinin ne kadar detaylı ve kişisel mesajlar üretebildiğinden habersiz olabileceğini ya da yapay zekayı hiç kullanmadıklarını düşündürdü.

Ancak katılımcıların kendi yapay zeka kullanımlarının, göndericilere yönelik yargılarını değiştirip değiştirmediğini de test ettik. Burada da büyük bir sürprizle karşılaştık: Kendi yapay zeka kullanım sıklığı ne olursa olsun, katılımcılar metnin kaynağı hakkında bilgi verilmediğinde yine insan tarafından yazıldığına inanıyor ve benzer izlenimler oluşturuyordu. Sık sık yapay zeka kullananlar (haftada en az birkaç kez), yapay zeka kullanımının açıklanması durumunda diğerlerine göre biraz daha az olumsuz değerlendirme yaparken, genel olarak tüm gruplar metnin kaynağı bilinmediğinde insan tarafından yazıldığı varsayımında bulundu.

Neden bu önemli?

İnsanlar sürekli olarak yazılı mesajlardan sosyal yargılarda bulunur. Yazılı mesajlara harcanan zaman ve çaba, yazarın samimiyeti, özgünlüğü veya yetkinliği hakkında fikir verir ve bu izlenimler arkadaşlık, flört ve iş hayatındaki kararları etkiler. Ancak araştırmamızın ana bulgusu çarpıcı bir uyumsuzluğu ortaya koyuyor: İnsanlar genellikle yapay zeka kullanımından şüphelenmiyor, hatta bunu fark etmiyor. Bu bilinçsizlik, ahlaki bir ikileme yol açıyor. Gizlice yapay zeka kullananlar avantajlarından faydalanırken, neredeyse hiç tespit riskiyle karşılaşmıyor. Öte yandan, dürüstçe yapay zeka kullanımını kabul edenler ise itibar kaybına uğruyor.