AI-leger må lisensieres: Slik kan regelverket utformes

Utahs legekommisjon har nylig krevd umiddelbar stans i delstatsmyndighetenes pilotprosjekt med AI-selskapet Doctronic. Prosjektet tillater en AI-drevet chatbot å evaluere pasienter og foreslå fornyelse av resepter på nesten 200 legemidler for kroniske tilstander – uten at lege må godkjenne hver enkelt sak.

Kommisjonen ble først informert om prosjektet etter at det var iverksatt. Deres advarsel var klar: å fortsette uten tilstrekkelig medisinsk tilsyn «kan potensielt sette innbyggere i Utah i fare».

Hvorfor krever eksperter strengere regulering av AI i helsevesenet?

Utviklingen av kunstig intelligens i medisinsk sammenheng har skutt fart de siste årene. Flere stater og land tester nå AI-verktøy for diagnose, behandling og oppfølging av pasienter. Likevel er det knyttet betydelig usikkerhet til hvordan slike systemer skal reguleres, spesielt når de tar avgjørelser som direkte påvirker pasienters helse.

Eksperter peker på flere risikofaktorer:

• Mangel på gjennomsiktighet: Mange AI-modeller fungerer som «svarte bokser» der det er vanskelig å forstå hvordan beslutninger fattes.
• Feil og skjevheter: AI-systemer kan reprodusere eller forsterke eksisterende skjevheter i helsedata, noe som kan føre til feilbehandling av visse pasientgrupper.
• Ansvarlighet: Hvem bærer ansvaret dersom en AI-feil fører til skade? Er det utviklerne, legene, sykehuset eller AI-systemet selv?
• Pasienttilit: Mange pasienter er skeptiske til å stole på avgjørelser fattet av en maskin, spesielt når det gjelder livsviktige behandlinger.

Hvordan kan AI-leger lisensieres? Et forslag til rammeverk

For å sikre trygg og effektiv bruk av AI i helsevesenet, foreslår eksperter et tydelig regelverk. Et slikt rammeverk bør inkludere følgende elementer:

1. Streng godkjenning og sertifisering

AI-systemer må gjennomgå en omfattende godkjenningsprosess før de kan tas i bruk. Dette bør omfatte:

• Testing av nøyaktighet og pålitelighet i kliniske studier.
• Gjennomgang av algoritmenes beslutningsgrunnlag for å sikre at de er forståelige og forklarbare.
• Krav om kontinuerlig overvåking og oppdatering av systemene for å håndtere nye medisinske funn.

2. Tydelig ansvarsfordeling

Det må være klare regler for hvem som er ansvarlig når noe går galt. Et mulig oppsett kunne være:

• Utviklere: Ansvar for at AI-systemet fungerer som tiltenkt og oppfyller regulatoriske krav.
• Leger og helsepersonell: Ansvar for å validere AI-forslag og ta endelige avgjørelser.
• Myndigheter: Ansvar for å overvåke og håndheve regelverket.

3. Pasientinformasjon og samtykke

Pasienter må informeres tydelig når AI brukes i deres behandling. Dette inkluderer:

• Fullstendig gjennomsiktighet om hvordan AI-systemet fungerer og hvilke beslutninger det tar.
• Mulighet for pasienter til å velge bort AI-basert behandling dersom de ønsker det.
• Tilgang til klage- og erstatningsordninger dersom AI-feil fører til skade.

4. Internasjonalt samarbeid

Siden AI-systemer ofte opererer på tvers av landegrenser, er internasjonal standardisering avgjørende. Organisasjoner som WHO og EU jobber allerede med retningslinjer for AI i helsevesenet. Norge bør delta aktivt i disse arbeidene for å sikre at norske pasienter får tilgang til de tryggeste og mest effektive løsningene.

Hva skjer nå i Utah – og hva kan Norge lære?

Etter kommisjonens kritikk har Utahs myndigheter varslet at de vil gjennomgå pilotprosjektet på nytt. De vurderer nå å innføre strengere krav til medisinsk tilsyn og klare retningslinjer for bruk av AI i helsevesenet.

Norge har allerede tatt noen skritt i riktig retning, blant annet gjennom Helse- og omsorgsdepartementets strategi for digitalisering. Likevel er det behov for mer konkrete tiltak, spesielt når det gjelder regulering av AI. Eksperter oppfordrer til:

• Etablering av en nasjonal AI-etisk komité for helsevesenet.
• Utvikling av nasjonale retningslinjer for sertifisering av AI-systemer.
• Økt forskning på hvordan AI kan integreres på en trygg og effektiv måte i norsk helsevesen.

«AI har et enormt potensial til å revolusjonere helsevesenet, men det må skje på en trygg og regulert måte. Norge må ikke vente på at feil skjer før vi handler.» – Professor i medisinsk teknologi, Universitetet i Oslo

Veien videre: Balanse mellom innovasjon og sikkerhet

Utfordringen ligger i å balansere innovasjon med pasientsikkerhet. AI kan effektivisere helsetjenester, redusere ventetider og bidra til mer presise diagnoser. Men det krever robuste reguleringer som sikrer at teknologien brukes ansvarlig.

Utah-saken viser at det haster med å etablere klare rammer. Norge har en mulighet til å bli foregangsland innen trygg og effektiv bruk av AI i helsevesenet – dersom vi handler nå.