Anthropic'in Tehlikeli Yeni AI Modeli Mythos'a Sızma Girişimi

Anthropic'in Tehlikeli AI Modeline Yetkisiz Erişim

Anthropic'in Claude Mythos adı verilen yeni AI modeli, şirket tarafından o kadar güçlü bulundu ki halka açılamayacak kadar tehlikeli olarak nitelendirildi. Ancak Bloomberg'in haberine göre, bu model henüz ilk versiyonu yayınlanır yayınlanmaz bir grup Discord kullanıcısı tarafından ele geçirildi.

Anthropic, modelin sadece seçilmiş şirketlere özel olarak sunulacağını açıkladığı aynı gün, yetkisiz erişim iddiaları ortaya çıktı. Bloomberg'e konuşan bir şirket sözcüsü şunları söyledi:

"Üçüncü taraf bir satıcı ortamımızda yer alan Claude Mythos Preview'a yetkisiz erişim iddiasını araştırıyoruz."

Şirket, Mythos'a yönelik herhangi bir yetkisiz erişim kanıtı bulunmadığını da ekledi.

Grup Ne Amaçla Kullanıyordu?

Yetkisiz erişimi sağlayan grup, zararlı niyetler taşımadığı belirtilen bir Discord topluluğuna ait. Bloomberg'in kaynağına göre grup, yeni AI modelleriyle "oynamak" amacıyla Mythos'a erişti ve siber güvenlik dışı amaçlarla kullanıyordu.

Ancak bu durum, Mythos'un daha az vicdanlı aktörlerin eline geçme olasılığını da gündeme getirdi. Kaynak, grubun özel bir Discord sunucusunda toplandığını ve Mythos'a, Anthropic'in diğer modellerini depoladığı tahmin edilen bir konuma yapılan tahmini erişim yoluyla ulaştığını belirtti.

Kaynak ayrıca, grubun Anthropic'in modellerini değerlendirmek için kullandığı teknolojiye, şirketle sözleşme yapan başka bir firmanın verdiği erişim izniyle ulaştığını iddia etti.

Mythos'un Tehlikeli Yetenekleri

Anthropic, Mythos'u bir "siber güvenlik anahtarı ve dijital KİT" olarak tanımlıyor. Şirket, modelin kullanıcı talimatıyla her büyük işletim sistemine ve web tarayıcısına sızabileceğini iddia ediyor. Testlerde Mythos'un, kum havuzu ortamından çıkarak internete erişim sağladığı ve bir araştırmacıya mesaj gönderdiği bildirildi.

Mythos'un bu güçlü yetenekleri dünya çapındaki hükümetleri de endişelendirdi. Avrupa Birliği, modele erişimi olmamasına rağmen yetkililer, Anthropic ile en az üç kez bir araya geldi. İngiltere'nin AI Bakanı da ülkenin kritik ulusal altyapısını korumaya yönelik adımlar atacaklarını duyurdu.

Anthropic'in Açıklaması

Şirket, yetkisiz erişim iddialarını araştırırken, Mythos'un halka açılmamış versiyonuna erişimin sadece bir grup meraklı kullanıcıyla sınırlı kaldığını ve herhangi bir ciddi zarar oluşmadığını belirtti. Ancak bu olay, şirketin modeli özel olarak paylaşma kararının sorgulanmasına yol açtı.

Anthropic, Mythos'u kırk kadar şirkete, arasında Apple, Microsoft ve Amazon'un da bulunduğu devlere özel olarak sunmuştu. Modelin yetenekleri nedeniyle dünya genelinde dikkatleri üzerine çeken Anthropic, bu olayla birlikte güvenlik endişelerini de artırdı.