Anthropic undersøger uautoriseret adgang til AI-værktøj til cybersikkerhed

Anthropic undersøger en potentiel uautoriseret adgang til deres AI-model Claude Mythos, som er blevet fremhævet for sin evne til at identificere cybersikkerhedsfejl. Ifølge Bloomberg har en gruppe fået adgang til modellen via en tredjepartsleverandørs portal og ved hjælp af online efterforskningsteknikker.

En kilde med kendskab til sagen oplyser imidlertid, at gruppens formål udelukkende har været at afprøve modellen og ikke at anvende den med skadelige intentioner.

"Vi undersøger en rapport om uautoriseret adgang til Claude Mythos Preview gennem en af vores tredjepartsleverandørers miljøer," meddelte Anthropic i en officiel udtalelse.

Claude Mythos og Project Glasswing

Claude Mythos Preview blev lanceret tidligere på måneden som en del af Project Glasswing og har været genstand for stor opmærksomhed. Anthropic begrænsede adgangen til et udvalgt antal pålidelige testvirksomheder, herunder blandt andre Amazon, Microsoft, Apple, Cisco og Mozilla.

Mozilla har allerede rapporteret, at modellen har hjulpet dem med at opdage og udbedre 271 sårbarheder i Firefox. Flere banker og offentlige myndigheder har ligeledes ansøgt om adgang for at styrke sikkerheden i deres egne systemer.

Uautoriserede brugere og potentiel risiko

Ifølge rapporten har flere uautoriserede brugere – organiseret i en privat Discord-chat – tilsyneladende skaffet sig adgang til Mythos gennem en udviklerportal og ved at gætte sig til modellens placering. Gruppen kan endda have adgang til andre endnu ikke udgivne Anthropic-modeller.

Den nye Mythos-model har for nylig vundet opmærksomhed for sin påståede evne til at identificere sikkerhedsfejl i styresystemer og webbrowsere. Dette har imidlertid også vakt skepsis blandt sikkerhedsforskere, der frygter, at AI-genererede cyberangreb kan blive en alvorlig trussel, som CTO for cloud-sikkerhedsvirksomheden Edera, Alex Zenla, for nylig udtalte til Wired.

Anthropics udfordringer og fremtid

Anthropic blev for nylig udpeget som en forsyningskæderisiko af USA’s forsvarsministerium, men har været i forhandlinger med Trump-administrationen for at få fjernet denne betegnelse.