AI-agenter truer identitetssystemene: Hvorfor tradisjonell sikkerhet ikke holder lenger

AI som oppdager sårbarheter – og kan misbrukes

Anthropic har nylig besluttet å ikke lansere sin kraftigste AI-modell, Mythos, til allmennheten. Årsaken? Modellen oppdaget tusenvis av ukjente programvarefeil – sårbarheter som har ligget skjult i operativsystemer og nettlesere i opptil tre tiår. Selskapet frykter at de samme evnene som gjør AI i stand til å finne og reparere sikkerhetshull, også kan utnyttes av angripere.

En enkelt AI-agent kan, ifølge Anthropic, skanne etter svakheter raskere og mer gjennomgående enn hundrevis av menneskelige hackere til sammen. Beslutningen illustrerer et større problem: De samme AI-systemene som bedrifter desperat ønsker å ta i bruk som autonome assistenter – for å planlegge møter, skrive kode og administrere arbeidsflyter – kan samtidig undersøke digitale forsvarsverk på en skala og med en hastighet ingen menneskelig gruppe kan matche.

Et identitetssystem designet for mennesker – ikke maskiner

Dagens sikkerhetsmodeller hviler på en fundamental antakelse: Det sitter alltid et menneske bak tastaturet. Tenk deg en bygning der alle dører har låser designet for å gjenkjenne menneskehender. Nå er bygningen full av roboter – noen er autoriserte bud, andre er inntrengere – og låsene klarer ikke skille mellom dem.

For bare noen år siden kunne du sitte ved skrivebordet, kaste et blikk på post-it-lappen med brukernavn og passord, logge inn og deretter gå og hente en kopp kaffe mens nettleseren åpnet en portal til resten av verden. Hver ny sikkerhetsbarriere – passord, sikkerhetsspørsmål, biometrisk autentisering, tofaktorautentisering – bygger på den samme grunnleggende forutsetningen: En person sitter på den andre siden.

AI-agenter bryter med menneskelige forutsetninger

AI-agenter utfordrer dette systemet fra to sider samtidig. På den ene siden trenger legitime agenter tilgang til identitet for å opptre som mennesker. Eksempler inkluderer:

• OpenAI Operator: En agent som navigerer nettsider på dine vegne.
• Google Gemini: En AI som kan planlegge ferier mens du sover.
• Visa Intelligence Commerce Connect: En plattform der AI-agenter foretar innkjøp på dine vegne.

Disse er ikke eksperimentelle demoer eller teoretiske konsepter – de er produsert og aktive tjenester som opptrer på vegne av ekte mennesker. Og for å gjøre det, trenger de tilgang til din identitet.

Samtidig kan ondsinnete aktører etterligne menneskelig atferd i stor skala. Den samme AI-teknologien som kan opptre som en hjelpsom assistent, kan også bli en farlig bedrager. De bryter ikke seg inn – de logger seg inn. Gjennom delt tilgang, rekrutteringsverktøy, leverandøronboarding og samarbeidsplattformer.

Identitetssikkerhet i en tid med autonome systemer

De fleste organisasjoner behandler identitet som et innloggingsproblem – noe IT-avdelingen løser med sterkere passord eller ekstra autentiseringssteg. Men den egentlige utfordringen nå er å vite hvem eller hva som allerede har fått tilgang.

Når skillet mellom menneske og maskin viskes ut, får det konkrete konsekvenser. Hvis en innkjøpsprosess ikke kan skille mellom en menneskelig leder og en AI-impersonator, kan falske bestillinger sendes ut. Når loggføringssystemer ikke klarer å avgjøre hvordan en avgjørelse ble tatt, bryter hele sporbarheten sammen. Og når en AI-agent får tilgang til sensitive systemer gjennom en leverandørs tilkobling, er det ikke lenger snakk om et menneskelig sikkerhetsbrudd – det er en automatisert inntrenging.

Veien videre: Hvordan sikre seg i en AI-drevet verden?

Eksperter peker på flere tiltak for å håndtere denne nye virkeligheten:

• Dynamisk identitetsverifisering: Ikke lenger basert på statiske passord, men på kontinuerlig analyse av atferd og kontekst.
• Maskinidentiteter: Separat og sikker identitet for AI-agenter, med klare grenser for hva de kan aksessere.
• Overvåking i sanntid: Systemer som oppdager og blokkerer unormal aktivitet fra både mennesker og maskiner.
• Null tillit-arkitektur: Anta at alle forespørsler om tilgang kan være kompromittert, uansett kilde.

Konklusjon: Identitet må moderniseres – før det er for sent

AI-agenter er her for å bli, og de kommer til å endre hvordan vi tenker på identitet og tilgang. Det tradisjonelle sikkerhetsparadigmet, bygget for en menneskedrevet verden, holder ikke lenger. Bedrifter og myndigheter må handle nå for å unngå at digitale systemer blir underminert av de samme teknologiene som skulle effektivisere dem.

«Vi kan ikke lenger stole på at en innlogging betyr at et menneske er til stede. Identitet må bli en levende, adaptiv prosess – ikke en statisk nøkkel.»