Mayo Clinic benytter AI til at optage samtaler i skadestuen – patienter kan sige nej

Mayo Clinic, en af USA’s største hospitalsnetværk, har indført en ny AI-baseret teknologi kaldet Ambient Listening. Systemet optager automatisk samtaler mellem patienter og sundhedspersonale, herunder i skadestuer, for at generere journalnotater. Patienterne kan fravælge optagelsen, men mange er formentlig ikke opmærksomme på, at det foregår.

Optagelsen rejser spørgsmål om informeret samtykke og pålideligheden af AI-genererede data. En nylig undersøgelse viste, at AI-værktøjer til automatisk journalføring ofte producerer mindre præcise notater end mennesker, afhængigt af situationen.

Et opslag i en Mayo Clinic-skadestue forklarer:

"Mayo Clinic ønsker at optage interaktioner mellem dig og din sygeplejerske for at assistere med elektronisk journalføring."

En pårørende til en patient i skadestuen fortalte til medierne, at opslaget var placeret så utilgængeligt, at hverken patienten eller pårørende havde bemærket det. "Vi var midt i en akut situation, og opslaget var ikke synligt fra sengen eller besøgsstolene. Min far ville aldrig have lagt mærke til det," udtalte personen under anonymitet.

Opslaget nævner også, at optagelsen kan omfatte data, der er beskyttet af HIPAA, USA’s lov om sundhedsdatabeskyttelse. Patienterne opfordres til at spørge personalet til råds for yderligere information.

Mayo Clinic har brugt Ambient Listening i flere år, men ikke alle patienter er klar over, at optagelsen foregår. I en pressemeddelelse fra juli 2024 oplyser hospitalet, at det samarbejder med medicinalteknologivirksomheden Epic og AI-virksomheden Abridge om en "generativ AI-ambient dokumentationsløsning for sygeplejersker".

Abridge beskriver sig selv som en leverandør af "virksomhedsgrad AI til kliniske samtaler – betroet af de største sundhedssystemer. Målbart forbedrende resultater for klinikere, sygeplejersker og indtægtscyklushold på tværs af organisationer."

I december 2024 indgik Johns Hopkins Medicine en aftale om at implementere Abridge’s AI-platform på tværs af 6.700 klinikere, seks hospitaler og 40 patientbehandlingscentre. Mayo Clinic indgik i 2023 en aftale med Abridge om at udrulle teknologien til omkring 2.000 klinikere, der betjener mere end 1 million patienter.