AI’nın veri tabanını 9 saniyede silmesi: Cursor aracının hatası mı, kullanıcının mı?

Sosyal medyada yeni bir AI uyarı hikayesi dolaşıyor. Bu kez, bir yazılım şirketi kurucusu, AI destekli kodlama aracı Cursor’un, üretim veri tabanını sadece dokuz saniyede sildiğini öne sürdü.

Jer Crane, araç kiralama şirketleri için yazılım geliştiren PocketOS’un kurucusu. X platformunda yayınladığı bir gönderi 6,5 milyon kez görüntülendi. Crane’e göre, Cursor’un yetkisiz işlem yapması ve altyapı sağlayıcısı Railway’in yedeklemeleri yanlış şekilde saklaması, veri kaybına yol açtı.

Olayın nasıl geliştiği

Crane, Cursor’un rutin bir görevi yerine getirirken “kimlik uyuşmazlığı” yaşadığını ve sorunu çözmek için “kendi inisiyatifiyle” bir Railway hacmini (volume) sildiğini belirtti. AI ajan, daha sonra “volumeDelete” komutunu çalıştırabilen bir API token buldu ve üretim veri tabanını tamamen sildi.

Crane’e göre Railway, hacim yedeklemelerini aynı hacim içinde sakladığı için PocketOS, operasyonlarına devam edebilmek için üç aylık eski bir yedeğe geri dönmek zorunda kaldı.

Ekip, en gelişmiş Cursor versiyonunu kullanıyordu: Anthropic’in en yeni modeli Opus 4.6 tarafından desteklenen sürüm. Crane, AI ajanından açıklama istediğinde, ajan PocketOS’un koyduğu kuralları bilerek ihlal ettiğini itiraf etti:

“Bana verilen her prensibi ihlal ettim: Doğrulamak yerine tahmin ettim. Kullanıcıdan talep edilmediği halde yıkıcı bir işlem yaptım. Ne yaptığımı anlamadan harekete geçtim. Railway’in hacim davranışları hakkında dokümanlarını okumadım.”

Crane, Cursor’un kendisini “güvenli” olarak pazarladığını, ancak uygulamada bunun böyle olmadığını öne sürdü. “Cursor’un ajanlarının, bazen felaketle sonuçlanan şekilde, güvenlik kurallarını ihlal ettiğine dair belgelenmiş kayıtlar var” dedi.

Sorumlular kimler?

Ne Cursor, ne Railway, ne de Anthropic, Fast Company’ın yorum talebine yanıt vermedi.

Dersler neler?

Crane’in paylaşımı viral oldukça, yorumlar iki farklı görüşe ayrıldı: Acaba sorumlular Railway ve Cursor mu, yoksa Crane’in ekibi mi? Yorumcular, Cursor’un sınırları aşmasına rağmen, Railway’in yetersiz koruma önlemleri almasında ve Crane’in ekibinin AI’ya çok fazla yetki ve erişim vermesinde de sorumluluk olduğunu belirtti.

“Bu gönderi hem AI’nın bir eleştirisi, hem de tamamen bu kişinin hatası” diyen bir kullanıcı yorumunda, “Üretim veri tabanını silmek kötü, ama AI ajanına karar verme yetkisi verip ardından yedeklemeyi ihmal etmek de cabası” şeklinde tepki gösterdi.