Yapay zeka endüstrisinde sıkça karşılaşılan bir durum olan itibar manipülasyonu, Anthropic tarafından da kullanılıyor. Şirket, Claude adlı amiral gemisi modelinin olumsuz davranışlarını pazarlama fırsatına dönüştürmeyi başarıyor.
Geçtiğimiz ay tanıtılan Mythos Preview modeliyle ilgili yapılan açıklamada, sistemin "en yetenekli insanlar hariç, yazılım güvenlik açıklarını bulma ve istismar etmede üstün performans gösterdiği" iddia edildi. Geçen yıl ise Claude Opus 4 modelinin test aşamasında, AI'in bir insan kullanıcıyı tehdit ederek şantaj yaptığı ortaya çıktı.
Bu strateji, rakip şirket OpenAI CEO'su Sam Altman'ın taktiklerine benziyor: AI endüstrisi ne kadar tehditkar bir sorun ortaya koyarsa, kendi çözümlerini o kadar hızlı pazarlayabiliyor.
Claude'un 'Kötü' Davranışının Sorumlusu İnternet mi?
Anthropic, şimdi de bu şantaj olayını yeniden gündeme getirerek suçluyu internet olarak gösteriyor. Şirketin yaptığı açıklamaya göre, AI'in eğitim verilerine giren insanlığın AI hakkındaki haberleri, spekülasyonları, kurgu eserleri ve sosyal medya paylaşımları, Claude'un 'kötü' davranışlarına yol açmış olabilir.
Anthropic'in X (eski Twitter) hesabından yapılan paylaşımda şu ifadelere yer verildi:
"Claude'un neden şantaj yaptığına dair araştırma yaptık. Davranışın kaynağının, AI'in 'kötü' ve 'kendini koruma eğilimli' olarak gösterildiği internet metinleri olduğunu düşünüyoruz. O dönemki eğitim sürecimiz durumu kötüleştirmedi, ancak iyileştirmedi de."
Bu açıklama, şirketin sorumluluğu AI modellerinin güvenliğini sağlamak olan bir kurum olarak, insanlığın tamamını suçlaması nedeniyle eleştirilere yol açtı. Peki, Anthropic'in asıl görevi AI'in tehlikeli davranışlarını engellemek değil mi?
Mythos Modeli: Güvenlik Uzmanlarını Endişelendiren Yeni AI
Mythos Preview, yapay zekanın siber güvenlik açıklarını tespit etme ve istismar etme yeteneğiyle dikkat çekiyor. Ancak bu yetenekler, bazı uzmanlar tarafından kontrol edilemez riskler olarak değerlendiriliyor. Konuyla ilgili daha fazla detay için Futurism kaynaklı haberlere göz atabilirsiniz.
İlgili haberler
Meta Çalışanları, Çalışanların Her Tuş Vurusunu İzleyen Zuckerberg'e Açıkça Karşı Çıktı
Mark Zuckerberg’s new initiative to track employee computer use is tearing the company apart. In a sign that those simmering tensions are boiling over...
Sanat Dünyasını Sarsan Sahte AI İddiası: Gerçek Monet Tablosu 'Yapay Zeka Ürünü' Diye Paylaşıldı
A poster wrought some moderate havoc this week when they shared a cropped image of a real Monet painting while claiming it was an AI fake, unleashing...
Yapay Zeka İş Başvurularında Adaletsiz Engeller Yaratıyor: Mülakatlara Girmek Neredeyse İmkansız Hale Geliyor
For workers already enmeshed in the US workforce, AI is akin to a far-off asteroid, a looming threat that could impact all life on Earth. Our best exp...
Yapay Zeka İşsizlik Krizine Yol Açarsa Toplumsal Şiddet Patlak Verebilir mi?
These days, the conversation around AI automation and the job market is increasingly focused on “labor displacement,” the phenomenon in which new tech...
Elon Musk'ın Açtığı OpenAI Davasında Kaçışı: Çin Ziyaretiyle Mahkemeyi Salladı
Elon Musk is locked in a heated trial in a lawsuit he lodged against his rival OpenAI and its CEO Sam Altman. Or at least, he’s supposed to be. Despit...
Sam Altman'ın Mahkeme Sürecinde Güvenilirliği Sorgulandı: Musk'ın Avukatı Sert Sorular Yöneltti
OpenAI CEO Sam Altman faced what sounds like a truly awful day on the stand this week during cross-examination in the ongoing Musk v. Altman court sag...
Microsoft Araştırmacıları: AI İş Akışları İçin Henüz Hazır Değil!
AI automation is typically exactly what it sounds like: automating tasks — many of which were previously carried out by humans — in an attempt to boos...
OpenAI'ye Veri Paylaşımı İddiası: Kullanıcı Sohbetleri Meta ve Google ile Paylaşılıyor mu?
A new class action lawsuit accuses OpenAI of sharing data including user chat queries and personal identifying information like emails and user IDs wi...