Anthropic’in gizli AI modeli sızmaya məruz qaldı: təhlükəsizlik iddiaları altında şübhələr artdı

Anthropic’in gizli AI modeli sızmaya məruz qaldı

Anthropic şirkəti tərəfindən gizli şəkildə inkişaf etdirilən və təhlükəsizlik sahəsində inqilab yaratacağı iddia edilən Claude Mythos AI modeli, planlaşdırılan ictimaiyyətə çıxarılmasının qarşısını aldığı səbəblərdən birini itirdi. Bloomberg-in məlumatına görə, modelin mövcudluğu ilk dəfə sızma nəticəsində ortaya çıxdıqdan sonra, Anthropic şirkəti tərəfindən seçilmiş şirkətlərə test üçün təqdim edilməsi planlaşdırılırdı.

Qeyri-qanuni istifadəçilərin əlində

Məlumatlara görə, model hələ Anthropic tərəfindən elan edildiyi gündən etibarən qeyri-qanuni istifadəçilərin əlində idi. Şirkət bu barədə araşdırma aparmaqda olduğunu bildirsə də, hadisə şirkətin təhlükəsizlik və AI təhlükəsizliyi sahəsindəki reputasiyasına ciddi zərbə vurdu.

Təhlükəsizlik iddiaları altında şübhələr

Anthropic, AI modelinin təhlükəli olması səbəbindən ictimaiyyətə açıqlanmasının məhdudlaşdırıldığını bildirmişdi. Lakin bu hadisədən sonra, şirkətin təhlükəsizlik tədbirlərinin effektivliyi və şəffaflığı barədə suallar ortaya çıxdı. Şirkətin rəsmi açıqlamasında bildirilir ki, "təhlükəsizlik prioritetimizdir" və hadisə ilə bağlı araşdırma davam edir.

Nəticə

Bu hadisə, AI təhlükəsizliyi sahəsində aparıcı mövqeyə iddia edən şirkətlər üçün dəyərli dərs ola bilər. AI modellərinin təhlükəsizliyinin təmin edilməsi və qeyri-qanuni istifadənin qarşısının alınması üçün daha sərt tədbirlər tələb olunur.

"AI təhlükəsizliyi sahəsində aparıcı mövqeyə sahib olan şirkətlər belə hadisələrlə qarşılaşa bilər. Bu, sənayenin bütün iştirakçılarının birgə fəaliyyət göstərməsi və təhlükəsizlik standartlarının yüksəldilməsi üçün zəruri addım sayılır."

Mövzu ilə bağlı daha ətraflı məlumatlar üçün The Verge saytına müraciət edə bilərsiniz.