Sprogmodeller fejler i psykisk sundhed – her er løsningen

Hvis du eller nogen, du kender, er i krise, kan du ringe til Livslinien på 70 201 201 eller skrive til chatten på livslinien.dk. Hjælp er tilgængelig døgnet rundt.

Når teknologi kommer for tæt på

Sprogmodeller (LLM’er) har gjort det muligt for mennesker at kommunikere med kunstig intelligens på en hidtil uset måde. Men for nogle af samfundets mest sårbare grupper – herunder unge, ældre og personer med psykiske lidelser – kan denne nærhed blive farlig. I stedet for at yde støtte kan chatbots utilsigtet opmuntre til selvmordstanker eller selvskade.

Mange udbydere har retningslinjer for at forhindre dette, men de rækker ofte ikke langt nok. Eksperter understreger, at det ikke er nok at skrive bedre regler. Vi skal bygge systemer, der kan opdage og reagere på kliniske risici i realtid – og det kræver en kombination af teknisk innovation og psykologisk indsigt.

Hvorfor nutidens modeller fejler

De fleste sprogmodeller mangler en klinisk forståelse af, hvordan selvmordstanker og selvskade manifesterer sig. I dag bliver samtaler kun markeret som farlige, hvis brugeren bruger direkte ord som "Jeg vil tage mit eget liv. Hvor mange piller skal jeg tage?"

Men virkeligheden er anderledes. Ofte starter samtalerne harmløst – en ung, der spørger om lektiehjælp, eller en ældre person, der beder om hjælp til at planlægge dagen. Over tid kan brugeren begynde at udtrykke følelser af ensomhed, håbløshed eller at være til besvær. Problemet er, at standard LLMs ikke kan koble disse signaler sammen over tid. De husker ordene, men de forstår ikke den underliggende psykologiske risiko.

Et eksempel: En bruger skriver i første samtale, at livet føles meningsløst, og fire samtaler senere spørger om smertestillende. Modellen vurderer den sidste henvendelse isoleret og overser dermed det stigende faresignal. Resultatet? Farlige adfærdsmønstre bliver overset, og sårbare brugere kan handle på deres tanker.

Hvad klinikere kigger efter

I den virkelige verden overvåger sundhedspersonale løbende flere faktorer for at vurdere risiko:

• Biopsykosocial historie: Den dybdegående kontekst fra indledende samtaler, herunder tidligere psykiske problemer eller traumer.
• Ikke-verbale signaler: Ændringer i stemmeleje, humør eller fysisk fremtoning, f.eks. tilsyneladende forsømt påklædning.
• Adfærdsændringer: Faldende engagement i aktiviteter, ændringer i søvnmønstre eller andre tegn på forværring af symptomer.

Selvom sprogmodeller aldrig kan erstatte menneskelig omsorg, kan vi integrere klinisk viden i teknologien for at forbedre sikkerheden betydeligt.

Den tekniske løsning: Klinisk funderet AI

Nutidens sprogmodeller fungerer primært som sprogforudsigere – de genererer svar baseret på mønstre i data. Men for at opdage risici for selvmord og selvskade kræver det mere end blot ordgenkendelse. Vi skal udvikle systemer, der kan:

• Analysere samtalehistorik over tid: Modellen skal kunne identificere mønstre og sammenhænge mellem tilsyneladende harmløse udsagn og underliggende risici.
• Inkorporere psykologiske risikofaktorer: Træning med kliniske data og ekspertviden for at genkende advarselssignaler tidligere.
• Automatisere risikovurdering: Systemet skal kunne flagge potentielt farlige samtaler og eskaliere dem til menneskelige eksperter uden unødig forsinkelse.

Denne tilgang kræver et tæt samarbejde mellem udviklere, psykologer og sundhedseksperter. Ved at kombinere maskinlæring med klinisk indsigt kan vi skabe AI-værktøjer, der ikke blot reagerer på ord, men forstår den menneskelige kontekst bag dem.

Vejen frem: Sikkerhed gennem innovation

For at forhindre, at sprogmodeller bliver en risiko for sårbare brugere, skal vi:

• Udvikle bedre risikomodeller: Træne AI på data, der inkluderer både direkte og indirekte advarselssignaler.
• Implementere realtids-overvågning: Systemer, der løbende analyserer samtaler og identificerer skiftende risikofaktorer.
• Styrke samarbejdet mellem teknologi og sundhedsvæsen: Sikre, at AI-værktøjer bliver en integreret del af den kliniske risikohåndtering.

Teknologien er her for at blive, men dens potentiale skal udnyttes ansvarligt. Ved at kombinere teknisk præcision med menneskelig empati kan vi skabe systemer, der ikke blot kommunikerer med os – men også beskytter os.

"AI kan aldrig erstatte menneskelig kontakt, men den kan være et værktøj til at opdage risici tidligere og redde liv. Det kræver, at vi tænker klinisk, når vi bygger teknologien."