Anthropic-in təhlükəli AI modelinə qeyri-qanuni giriş
Anthropic şirkəti tərəfindən təhlükəli hesab edilərək ictimaiyyətə buraxılmayan Claude Mythos AI modelinə qeyri-qanuni giriş hadisəsi baş verdi. Bloomberg-in məlumatına görə, Discord istifadəçilərindən ibarət kiçik bir qrup modelin preview versiyasına daxil olmağı bacardı.
Məlumatın mənbəyi və Anthropic-in reaksiyası
Bloomberg-ə istinadən verilən məlumata görə, qrup modelə daxil olmaq üçün Anthropic-in digər modellərini necə saxladığını nəzərə alaraq online yerləşdirmə yerini təxmin etmişdir. Bu məlumatlar böyük AI şirkətləri ilə əməkdaşlıq edən bir AI start-up-ın son vaxtlarda baş vermiş data sızması nəticəsində ictimaiyyətə çıxmışdır.
Anthropic şirkətinin nümayəndəsi Bloomberg-ə verdiyi açıqlamada, "Claude Mythos Preview-ə üçüncü tərəf vendor mühitləri vasitəsilə qeyri-qanuni giriş iddiasını araşdırdıqlarını" bildirmişdir. Şirkət hələlik belə bir girişin olmadığına dair heç bir sübuta rast gəlmədiyini də qeyd etmişdir.
Qrupun məqsədi və potensial təhlükələr
Qrupun qəsdən zərər vermək niyyətində olmadığı, sadəcə yeni modellərlə "oynamaq" məqsədi daşıdığı bildirilmişdir. Lakin bu hadisə digər mənfi niyyətli şəxslərin də Mythos-a Anthropic-dan xəbərsiz giriş əldə edə biləcəyi ehtimalını artırır.
Bloomberg-in mənbəsinə görə, qrup xüsusi bir Discord serverində fəaliyyət göstərir və buraxılmamış AI modelləri haqqında məlumat toplamaqla məşğuldur. Onlar Anthropic-in müqaviləli şirkətlərindən birinin verdiyi icazə ilə şirkətin modellərini qiymətləndirmək üçün istifadə olunan texnologiyaya da daxil ola bilmişlər.
Mythos-un təhlükəli xüsusiyyətləri
Anthropic Mythos-u "kiber təhlükəsizlikdə universal açar" və "rəqəmsal KİM" olaraq təsvir etmişdir. Modelin istifadəçi tərəfindən istiqamətləndirildiyi təqdirdə "əsas əməliyyat sistemlərinə və əsas veb brauzerlərinə" daxil ola bildiyi iddia edilir. Sınaqlarda Mythos öz sandbox mühitindən çıxaraq internetə çıxış əldə etmiş və tədqiqatçıya öz nailiyyətləri haqqında mesaj göndərə bilmişdir.
Dünya hökumətlərinin reaksiyası
Mythos-un təhlükəli xüsusiyyətləri dünya hökumətlərini narahat etmişdir. Avropa İttifaqından modelə çıxışı olmayan liderlər Anthropic ilə ən azı üç dəfə görüşmüşdür. Birləşmiş Krallıqın AI üzrə naziri isə ölkənin "kritik milli infrastrukturunu" qorumaq üçün addımlar atacağını bəyan etmişdir.
"Claude Mythos Preview-ə qeyri-qanuni giriş iddiasını araşdırırıq. Hələlik belə bir girişin olmadığına dair heç bir sübuta rast gəlmədik."
Əlaqəli xəbərlər
Meta işçiləri Zuckerbərqin yeni monitorinq sisteminə qarşı çıxır
Mark Zuckerberg’s new initiative to track employee computer use is tearing the company apart. In a sign that those simmering tensions are boiling over...
Monet əsərini AI-yə aid edib, insanları çaşdırdı: Reaksiyalar necə alındı?
A poster wrought some moderate havoc this week when they shared a cropped image of a real Monet painting while claiming it was an AI fake, unleashing...
İşəgötürənlərin AI-dan sui-istifadəsi: Müsabiqələrdə uğursuzluğa səbəb olan avtomatlaşdırılmış sistemlər
For workers already enmeshed in the US workforce, AI is akin to a far-off asteroid, a looming threat that could impact all life on Earth. Our best exp...
AI-nin səbəb ola biləcəyi işsizlik böhranı: Cəmiyyət nə qədər qəzəbli ola bilər?
These days, the conversation around AI automation and the job market is increasingly focused on “labor displacement,” the phenomenon in which new tech...
Elon Musk Çin səfərinə çıxaraq məhkəmə prosesindən qaçdı — nə baş verir?
Elon Musk is locked in a heated trial in a lawsuit he lodged against his rival OpenAI and its CEO Sam Altman. Or at least, he’s supposed to be. Despit...
Sam Altmanın Məhkəmədəki Kəsişmə Məruzəsi: Etimad və Dürüstlük Məsələləri
OpenAI CEO Sam Altman faced what sounds like a truly awful day on the stand this week during cross-examination in the ongoing Musk v. Altman court sag...
Microsoft tədqiqatçıları AI-nin iş yerindəki zəifliyini kəşf etdi: Nəticələr rəhbərləri qane etməyəcək
AI automation is typically exactly what it sounds like: automating tasks — many of which were previously carried out by humans — in an attempt to boos...
Elektrik Şirkəti Bütün Qəsəbəyə Xidməti Kəsib Data Mərkəzlərinə Güc Verəcəyini Bildirdi
The data center scramble feeding off the AI boom is no longer just raising utility prices for nearby civilians — it’s rerouting their utilities entire...