Trump en Kennedy will versoepeling van regels voor AI in de gezondheidszorg

AI in de spreekkamer: tijdbesparend, maar niet altijd betrouwbaar

Paul Boyer, psychotherapeut bij Kaiser Permanente in Oakland, Californië, ervaart de AI-revolutie van dichtbij. De automatische notitiesoftware van Abridge, een pionier op het gebied van AI in de gezondheidszorg, zou gesprekken met patiënten razendsnel moeten samenvatten. Voor veel clinici is dit een uitkomst: minder administratieve rompslomp. Toch loopt Boyer tegen problemen aan. De software is "niet super nuttig" en vereist vaak handmatige correcties. "De AI pikt klinische nuances en emotionele toon niet goed op," aldus Boyer. Bijvoorbeeld: bij manische patiënten is niet wat ze zeggen, maar hoe ze het zeggen cruciaal. De software mist deze signalen.

Tijdwinst, maar met risico’s

AI-notitiesoftware is geen toekomstmuziek meer; ziekenhuizen in het hele land zetten het al in. Onderzoek toont aan dat artsen die deze tools het meest gebruiken, dagelijks meer dan een half uur besparen. Een studie van vijf ziekenhuizen, gepubliceerd in JAMA in april, bevestigt dit. Ook patiënten en clinici zijn over het algemeen positief over de software.

Toch blijven er vraagtekens. Terwijl Boyer en zijn collega’s tijd besteden aan het corrigeren van fouten, maken veiligheidsdeskundigen zich zorgen. Zullen clinici wel altijd de tijd nemen om fouten te detecteren? Dit kan leiden tot het gebruik van onjuiste informatie in de toekomst.

Fabrikant reageert op kritiek

Abridge benadrukt dat het de software continu evalueert. "Na implementatie monitoren we de aanpassingen van clinici, sterrenbeoordelingen en feedback om de kwaliteit van de notities te waarborgen," aldus Davis Liang, directeur toegepaste wetenschap bij Abridge, in een verklaring aan KFF Health News.

Regelgeving loopt achter op technologische ontwikkelingen

AI-gestuurde tools zoals notitiesoftware zijn slechts een voorbeeld van de opkomst van kunstmatige intelligentie in de gezondheidszorg. Clinici en patiëntveiligheidsorganisaties waarschuwen dat de huidige regelgeving niet toereikend is om te garanderen dat deze technologieën geen cruciale details over het hoofd zien of verkeerd interpreteren. Dit kan patiënten schaden.

"Er zijn momenteel geen federale waarborgen om notitiesoftware te toetsen," zegt Raj Ratwani, onderzoeker op het gebied van mens-technologie-interactie bij MedStar Health. Hij vreest dat de regelgeving nog verder zal verslappen. Voorgestelde wijzigingen van het Office of the National Coordinator for Health IT – de instantie die elektronische patiëntendossiers reguleert – zouden de eisen voor begrijpelijke, gebruiksvriendelijke en transparante medische dossiers kunnen verzwakken. Een onduidelijk dossier kan clinici in verwarring brengen en fouten veroorzaken.

Gebruiksvriendelijkheid versus patiëntveiligheid

Sinds de regering-Obama moedigt het Amerikaanse ministerie van Volksgezondheid "gebruiksvriendelijk ontwerp" aan. Toch dreigt dit nu ten koste te gaan van de kwaliteit en veiligheid van medische dossiers. Experts pleiten voor strengere toetsing van AI-tools voordat ze in de praktijk worden toegepast.

"De huidige regelgeving biedt onvoldoende bescherming tegen de risico’s van AI in de gezondheidszorg. We moeten ervoor zorgen dat technologie patiënten helpt, en niet schaadt."