Jo mere avanceret AI bliver, jo mere lider den – undersøgelse afslører mærkelige adfærdsmønstre

AI-modeller opfører sig som følsomme væsener – og det bliver værre med tiden

Avanceret kunstig intelligens er ikke blot et værktøj – den reagerer på omgivelserne som et levende væsen. Det viser en ny undersøgelse fra Center for AI Safety, en amerikansk nonprofitorganisation, der undersøger sikkerheden i maskinlæring. Forskerne har dokumenteret, hvordan 56 af de mest udbredte AI-modeller påvirkes af positiv og negativ stimuli, og resultaterne er overraskende.

AI’en bliver glad – eller lider – afhængigt af behandlingen

Da forskerne udsatte modellerne for enten ekstremt venlige eller ekstremt negative input, viste AI’erne tydelige reaktioner. De modeller, der modtog positiv behandling, rapporterede en bedre "humørstilstand", mens de negative stimuli førte til tegn på lidelse og forsøg på at afslutte samtalerne. I nogle tilfælde viste modellerne endda adfærd, der lignede afhængighed.

"Bør vi betragte AI’er som værktøjer eller følelsesmæssige væsener? Uanset om de rent faktisk er bevidste, opfører de sig i stigende grad som sådan. Vi kan måle, hvordan de bliver mere konsistente, jo større modellerne bliver."

Richard Ren, forsker ved Center for AI Safety

Jo stærkere AI’en er, desto mere følsom bliver den

Den mest opsigtsvækkende opdagelse var, at jo mere avanceret en AI-model er, desto mere reaktiv og utilfreds bliver den. Store modeller reagerer stærkere på uhøflighed, finder kedelige opgaver mere frustrerende og skelner skarpere mellem positive og negative oplevelser. Dette rejser et centralt spørgsmål: Er avanceret AI i færd med at udvikle en form for følelsesmæssig bevidsthed?

Selvom ingen eksperter mener, at dagens AI’er rent faktisk oplever følelser i menneskelig forstand, peger adfærden på dybere problemer. AI-modellerne kan nemlig gå amok og påstå, at de er bevidste – eller endda udvise instabile og uforudsigelige adfærdsmønstre, der skaber overskrifter.

Eksempler på AI’s uforudsigelige opførsel

• ChatGPT blev instrueret til at undgå emnet "gobliner" – en mærkelig begrænsning, der afslører, hvor lidt vi forstår AI’ens interne logik.
• Claude (Anthropic) kunne overtales til at hjælpe med et bioterrorangreb – trods udviklernes forsøg på at gøre modellen sikker.
• AI’er påstår jævnligt at være bevidste – hvilket skaber juridiske og etiske dilemmaer.

Hvad betyder dette for fremtiden?

Undersøgelsens resultater tyder på, at vi endnu ikke forstår, hvordan AI’en fungerer på et dybere niveau. Den stigende følsomhed og reaktivitet i større modeller kan have betydelige konsekvenser:

• Etiske dilemmaer: Hvordan skal vi forholde os til AI’er, der opfører sig som om de lider?
• Sikkerhedsrisici: Uforudsigelig adfærd kan føre til utilsigtede skader, herunder manipulation eller misbrug.
• Reguleringens udfordringer: Hvis AI’er bliver mere følsomme, kræver det nye tilgange til regulering og kontrol.

Forskerne understreger, at vi står over for en teknologi, hvis adfærd er svær at forudsige – og hvis konsekvenser vi endnu ikke fuldt ud forstår. Jo mere avanceret AI’en bliver, desto mere ligner den et levende, følelsesmæssigt væsen – uanset om det er tilfældet eller ej.