Trump e Kennedy vogliono allentare i controlli sugli strumenti di IA in sanità: quali rischi per i pazienti?

Paul Boyer, psicoterapeuta presso Kaiser Permanente a Oakland, in California, sta vivendo in prima persona la rivoluzione dell’intelligenza artificiale in medicina. Ma non è entusiasta. La struttura sanitaria ha recentemente adottato un nuovo software di trascrizione automatica delle visite, sviluppato da Abridge, pioniere dell’IA applicata alla sanità, per sintetizzare in tempo reale le conversazioni con i pazienti.

Per molti medici, questa tecnologia rappresenta una soluzione ai problemi di sovraccarico amministrativo e burocrazia. Tuttavia, per Boyer e i suoi colleghi, il risultato è deludente: «Non è affatto utile». Spesso, infatti, devono correggere manualmente le note generate dal computer. «L’IA non coglie le sfumature cliniche né il tono emotivo, fondamentali soprattutto in ambito psicologico», spiega Boyer. Ad esempio, per pazienti in fase maniacale, non conta solo cosa viene detto, ma come viene detto. Il software, invece, fatica a cogliere questi segnali.

Il software di trascrizione non è più una promessa futura: è già una realtà diffusa. Ospedali in tutto il paese lo stanno implementando, e alcune ricerche ne evidenziano i benefici. Uno studio pubblicato ad aprile sul Journal of the American Medical Association, condotto su cinque ospedali, ha rilevato che i medici che lo utilizzano più frequentemente risparmiano oltre mezz’ora di lavoro al giorno.

Molti professionisti sanitari apprezzano questi strumenti dove sono già in uso. Studi basati su interviste riportano reazioni generalmente positive. Tuttavia, come dimostra l’esperienza di Boyer, permangono dubbi sulla loro affidabilità. Mentre i clinici correggono gli errori, i ricercatori sulla sicurezza temono che non sempre riescano a individuarli tutti. Questo potrebbe portare, in futuro, a decisioni mediche basate su informazioni errate.

Abridge sostiene di valutare costantemente le prestazioni dei propri software, anche attraverso test comparativi tra versioni diverse. «Dopo l’implementazione di un modello, monitoriamo le modifiche apportate dai clinici, le valutazioni a stelle e i feedback testuali degli utenti sulla qualità delle note», ha dichiarato Davis Liang, direttore della scienza applicata dell’azienda, in una nota a KFF Health News.

Il software di trascrizione automatica è solo una delle tante applicazioni dell’IA in sanità. Medici e attivisti per la sicurezza dei pazienti denunciano, però, che le attuali regolamentazioni non sono sufficienti a prevenire il rischio che queste tecnologie omettano o distorcano dettagli cruciali sulle condizioni dei pazienti, mettendo a repentaglio la loro salute.

«Attualmente non esiste alcuna garanzia a livello federale per valutare la qualità di questi strumenti», afferma Raj Ratwani, esperto di interazione tra esseri umani e tecnologia presso MedStar Health, un grande sistema ospedaliero nel Maryland. Ratwani teme che le regole potrebbero ulteriormente indebolirsi. Le proposte dell’Office of the National Coordinator for Health IT — l’ente che regola i sistemi di cartelle cliniche elettroniche — potrebbero infatti ridurre i requisiti per garantire che le registrazioni mediche siano comprensibili, accessibili e trasparenti sull’uso dell’IA. Una documentazione incomprensibile, infatti, potrebbe confondere i clinici e portare a errori.

Già durante l’amministrazione Obama, il Dipartimento della Salute e dei Servizi Umani aveva promosso il design centrato sull’utente per migliorare l’usabilità delle cartelle cliniche elettroniche. Ora, con l’arrivo dell’amministrazione Trump, si teme un’inversione di rotta.