Mayo-klinikken tar i bruk AI for å overvåke samtaler på akuttmottak

Mayo-klinikken, en av USAs største sykehusnettverk, har begynt å bruke en ny AI-basert teknologi kalt «Ambient Listening» for å automatisk ta opp samtaler mellom pasienter og sykepleiere, også i akuttmottak. Opptakene skjer i bakgrunnen og er standardinnstilt som opt-out, noe som betyr at pasientene må aktivt si nei for å unngå opptak.

Denne praksisen har ført til bekymringer knyttet til informert samtykke og nøyaktigheten av de AI-genererte notatene. En studie fra forrige måned viste at AI-verktøy for dokumentasjon ofte produserer mindre nøyaktige notater enn mennesker, avhengig av situasjonen.

En pårørende til en pasient på akuttmottak delte et bilde av en oppslagstavle med informasjon om opptakene. Oppslaget var plassert langt fra pasientens seng og var på størrelse med et vanlig A4-ark. Familien oppdaget det først da de gikk ut av rommet for å strekke på bena.

«Jeg snakket ikke med personalet om dette, fordi vi var midt i en akuttsituasjon. Det er nettopp derfor dette er problematisk som opt-out i akuttmottak,» uttalte pårørende til 404 Media. «Mange pasienter legger kanskje ikke merke til dette, eller har ikke helse eller overskudd til å lese det.»

Oppslaget informerer også om at opptaksutstyret kan fange opp data som faller under HIPAA, USAs lovverk for helsedata. Teksten lyder:

«Denne enheten kan fange opp beskyttet helseinformasjon som er beskyttet av Health Insurance Portability and Accountability Act og Mayo-klinikkens personvernerklæring. Be personalet om ytterligere informasjon.»

Mayo-klinikken har brukt Ambient Listening i flere år, men ikke alle pasienter er klar over at opptakene foregår. I en pressemelding fra juli 2024 opplyser klinikken at de samarbeider med medisinsk teknologiselskapet Epic og AI-selskapet Abridge om en «generativ AI-basert dokumentasjonsløsning for sykepleiere».

Abridge presenterer seg selv som en leverandør av «bedriftsklasse AI for kliniske samtaler – betrodd av de største helsevesenene. Målbart forbedrer resultatene for klinikere, sykepleiere og økonomiteam på stor skala.»

I desember 2024 inngikk Johns Hopkins Medicine en avtale om å ta i bruk Abridge sin AI-plattform for 6 700 klinikere, seks sykehus og 40 pasientbehandlingssentre. Mayo-klinikken signerte i fjor en «helhetlig avtale» med Abridge, som omfatter rundt 2 000 klinikere som betjener over 1 million pasienter.