NSA anvender AI-modellen Mythos trods Pentagonets advarsler

NSA ignorerer Pentagonets advarsler om AI-model

Den amerikanske National Security Agency (NSA) anvender Anthropics seneste og mest avancerede AI-model, Mythos Preview, til trods for at Forsvarsministeriet (DoD) har betegnet virksomheden som en "forsyningskæderisiko". Det fremgår af oplysninger fra to kilder, som har talt med Axios.

Pentagonets modstand mod Anthropic

Forsvarsministeriet har siden februar forsøgt at begrænse Anthropics adgang til det amerikanske forsvar og krævet, at leverandører følger efter. Denne sag er stadig under behandling. Samtidig udvider militæret imidlertid brugen af Anthropics værktøjer, samtidig med at det i retten argumenterer for, at anvendelsen truer USA’s nationale sikkerhed.

Mythos’ anvendelse i NSA

To kilder oplyser, at NSA benytter Mythos, mens en tredje kilde angiver, at modellen også anvendes bredere inden for forsvarsministeriet. Det er endnu uklart, hvordan NSA specifikt bruger Mythos. Andre organisationer med adgang til modellen anvender den primært til at scanne deres egne systemer for sårbarheder, der kan udnyttes af hackere.

Anthropic har begrænset adgangen til Mythos til omkring 40 udvalgte organisationer, da virksomheden vurderer, at modellens offensive cyberkapaciteter er for farlige til en bredere distribution. Ud af disse 40 organisationer har Anthropic kun offentliggjort 12. En kilde oplyser, at NSA er blandt de hemmelige brugere.

Også Storbritanniens efterretningstjenester har fået adgang til Mythos gennem landets AI Security Institute.

Møde mellem Anthropic og den amerikanske regering

Nyheden kommer på baggrund af et møde mellem Anthropics administrerende direktør, Dario Amodei, og Det Hvide Hus’ stabschef Susie Wiles samt finansminister Scott Bessent. Mødet fokuserede på Mythos’ anvendelse inden for regeringen og Anthropics sikkerhedspraksis. Ifølge kilderne var mødet produktivt, og de næste skridt ventes at omfatte en vurdering af, hvordan andre ministerier end Forsvarsministeriet kan integrere modellen.

Anthropic og Forsvarsministeriet har begge afvist at kommentere sagen. NSA og Office of the Director of National Intelligence har heller ikke reageret på anmodninger om kommentarer.

Baggrunden for konflikten

Striden mellem Pentagon og Anthropic opstod under forhandlingerne om kontrakter tidligere på året. Forsvarsministeriet krævede, at Anthropic stillede sin Claude-model til rådighed til "alle lovlige formål", mens virksomheden insisterede på at begrænse muligheden for masseovervågning og udvikling af autonome våben.

Nogle embedsmænd i forsvaret fastholder, at Anthropics holdning viser, at virksomheden ikke kan stole på at stille op, når militæret har brug for det. Anthropic afviser denne påstand. Andre i administrationen ønsker blot at få striden til at forsvinde, så de kan drage fordel af de avancerede værktøjer, som Anthropic udvikler.