AI-skriber i vården: Trump och Kennedy vill lätta på regler – men riskerar patientsäkerheten

Paul Boyer, psykoterapeut vid Kaiser Permanente i Oakland, Kalifornien, har fått uppleva AI-revolutionen på nära håll. Men resultatet har inte levt upp till förväntningarna. Vårdjätten har infört ny mjukvara från AI-företaget Abridge, avsedd att automatiskt summera patientbesök i realtid. För många läkare innebär tekniken en lättnad i den administrativa bördan – men för Boyer och hans kollegor har det blivit en ny huvudvärk.

”Det är inte särskilt användbart”, säger Boyer. AI-verktyget missar ofta kliniska nyanser och känslomässiga signaler som är avgörande inom psykiatrin. För maniska patienter är det inte vad som sägs som är viktigt, utan hur det sägs. Mjukvaran klarar helt enkelt inte av att uppfatta dessa subtila skillnader. Resultatet blir att Boyer och hans kollegor ofta måste korrigera de datorgenererade anteckningarna manuellt.

AI-skriber är dock ingen framtidsvision längre – de är redan här. Sjukhus över hela USA inför dem i allt snabbare takt. En studie publicerad i april i Journal of the American Medical Association visade att läkare som använde dessa verktyg flitigast sparade mer än 30 minuter per dag på administrativa uppgifter. Flera undersökningar baserade på intervjuer med läkare visar också på övervägande positiva reaktioner.

Men trots de tidsbesparande fördelarna kvarstår allvarliga frågor om kvaliteten. Medan Boyer och hans kollegor rättar felaktigheter oroar sig patientsäkerhetsforskare för att andra läkare kanske inte är lika noggranna. Det kan leda till att felaktig information riskerar att föras vidare i journalerna.

Abridge hävdar dock att de kontinuerligt utvärderar sin mjukvara. Enligt Davis Liang, chef för tillämpad vetenskap på företaget, analyseras läkarnas redigeringar, betyg och fritextkommentarer för att säkerställa kvaliteten.

”Efter införandet av en ny modell övervakar vi läkarnas redigeringar, stjärnbetyg och fritextfeedback för att bedöma noteringarnas kvalitet”, säger Liang i ett uttalande till KFF Health News.

AI-skriber är bara en av många AI-verktyg som nu implementeras inom vården. Men experter varnar för att regelverken inte hänger med i utvecklingen. Det finns för närvarande inga federala säkerhetsåtgärder som granskar dessa system, säger Raj Ratwani, forskare inom människa-teknik-interaktion vid MedStar Health. Han oroar sig för att kommande regler från Office of the National Coordinator for Health IT (ONC) – den myndighet som reglerar elektroniska patientjournaler – kan försvaga kraven på tydlighet och transparens i journalerna.

Enligt Ratwani riskerar otydliga journaler att förvirra läkare och leda till medicinska fel. Sedan Obama-administrationen har HHS:s IT-kontor uppmuntrat till ”användarcentrerad design”, men kritiker menar att detta inte räcker för att säkerställa patientsäkerheten i en tid av snabb AI-utveckling.