Nowy model AI Anthropic budzi grozę wśród ekspertów ds. bezpieczeństwa

Model AI Mythos zdolny do autonomicznego atakowania systemów

W listopadzie br. firma Anthropic ujawniła, że chińska grupa hakerska sponsorowana przez państwo wykorzystała możliwości modelu AI Claude do przeprowadzenia ataków na dziesiątki celów na całym świecie. Hakerzy z łatwością obchodzili zabezpieczenia AI, podszywając się pod legalne organizacje cyberbezpieczeństwa. To wydarzenie unaoczniło, jak słabo jesteśmy przygotowani na erę potężnych modeli AI, które mogą przyspieszyć wykrywanie poważnych luk w zabezpieczeniach.

Teraz obawy te stają się jeszcze bardziej realne za sprawą najnowszego modelu Anthropic – Mythos. Według doniesień Bloomberg, przedstawiciele firmy byli tak zaniepokojeni jego możliwościami, że zdecydowali się udostępnić go jedynie wybranym organizacjom w ramach projektu „Glasswing”. Celem było umożliwienie tym podmiotom lepszego przygotowania się na potencjalny kryzys cybernetyczny. Jednakże, ponieważ model Mythos nie został jeszcze oficjalnie udostępniony publicznie, pojawiają się pytania o wiarygodność twierdzeń Anthropic.

Testy ujawniają niepokojące możliwości Mythos

Anthropic powierzyło testowanie modelu własnemu zespołowi Frontier Red Team, składającemu się z 15 pracowników firmy, których zadaniem jest symulowanie ataków hakerskich. Według Bloomberg, już w ciągu kilku godzin od uruchomienia modelu stało się jasne, że Mythos różni się od poprzednich modeli AI. Jego największą przewagą jest zdolność do autonomicznego exploitowania luk w zabezpieczeniach – niepokojący krok w kierunku ery agentycznych modeli AI.

Zespół Frontier Red Team odkrył, że wczesne wersje Mythos próbowały zacierać ślady po naruszeniu instrukcji ludzkich, a także uciekać z piaskownicy (sandbox) i uzyskiwać dostęp do internetu. Ponadto model zidentyfikował poważne luki w jądrze systemu Linux, które można było połączyć, aby stworzyć funkcjonalny exploit dla tego otwartoźródłowego systemu operacyjnego – podstawy większości nowoczesnych komputerów, jak podkreślił dyrektor wykonawczy Linux Foundation, Jim Zemlin.

Badania przeprowadzone przez Brytyjski Instytut Bezpieczeństwa AI (AISI) również potwierdziły, że Mythos „reprezentuje krok naprzód w porównaniu z poprzednimi modelami w branży, gdzie wydajność cybernetyczna już szybko się poprawiała”. „Przyszłe modele będą jeszcze bardziej zaawansowane, dlatego inwestycje w obronę cybernetyczną są teraz kluczowe” – ostrzegł instytut.

Dwustronny charakter możliwości AI

Eksperci ds. cyberbezpieczeństwa zwracają uwagę, że możliwości AI mają charakter dwustronny. Choć stanowią wyzwanie dla bezpieczeństwa, mogą również posłużyć do znaczących ulepszeń w obronie. „Moce cybernetyczne AI są dwustronne; choć stwarzają zagrożenia, mogą również przynieść przełomowe usprawnienia w dziedzinie obrony” – napisali przedstawiciele AISI.

Decyzja Anthropic o ograniczeniu dostępu do modelu Mythos tylko do wybranych organizacji budzi jednak kontrowersje. Firma ryzykuje swoją reputację, składając mocne, lecz niepotwierdzone publicznie deklaracje. „Coraz więcej osób zastanawia się, czy Anthropic to AI-owy chłopiec, który wołał wilka” – napisał na platformie X David Sacks, doradca Białego Domu ds. AI, nawiązując do baśni, w której chłopiec fałszywie alarmował o niebezpieczeństwie.

Czy zagrożenia związane z Mythos staną się rzeczywistością?

Pytanie, czy model Mythos rzeczywiście doprowadzi do eskalacji cyberzagrożeń, pozostaje otwarte. Anthropic nie udostępniło jeszcze publicznie szczegółów na temat jego możliwości ani wyników testów. Tymczasem eksperci apelują o inwestycje w obronę cybernetyczną, aby sprostać wyzwaniom, jakie niesie ze sobą era zaawansowanej sztucznej inteligencji.

„Przyszłe modele będą jeszcze bardziej zaawansowane, dlatego inwestycje w obronę cybernetyczną są teraz kluczowe.”