Trump e Kennedy propõem flexibilizar regras para uso de IA em ferramentas de saúde

O psicoterapeuta Paul Boyer, que atua pela Kaiser Permanente em Oakland, na Califórnia, testemunha na prática os impactos da revolução da inteligência artificial (IA) na saúde. No entanto, sua experiência não é exatamente empolgante. A gigante da saúde implementou recentemente um novo conjunto de softwares de anotações clínicas, desenvolvidos pela Abridge — pioneira em IA para saúde — com o objetivo de resumir visitas de pacientes em alta velocidade.

Para muitos profissionais, a tecnologia alivia uma das principais dores da rotina: a burocracia e a papelada. Mas, para Boyer e seus colegas, o chamado "AI scribe" trouxe outro problema: "não é muito útil". Os médicos acabam corrigindo manualmente as anotações geradas pela máquina. "A Abridge não consegue captar nuances clínicas ou o tom emocional, que são essenciais no campo da saúde mental", explicou Boyer. Segundo ele, em casos de pacientes maníacos, por exemplo, como algo é dito pode ser mais relevante do que o conteúdo em si — algo que o software não consegue identificar.

Os softwares de anotações clínicas não são mais o futuro; já são realidade. Hospitais em todo o país estão adotando essas ferramentas, e pesquisas apontam alguns benefícios. Um estudo publicado em abril no Journal of the American Medical Association, que analisou cinco hospitais, revelou que médicos que mais utilizaram esses sistemas economizaram mais de meia hora de trabalho diário após um ano de uso. Além disso, várias pesquisas baseadas em entrevistas indicam que muitos profissionais aprovam os resultados onde os sistemas foram implantados.

No entanto, como mostra o caso de Boyer, há questões persistentes sobre a qualidade dessas ferramentas. Enquanto os médicos gastam tempo corrigindo erros, pesquisadores de segurança temem que os profissionais não sejam tão rigorosos em identificar falhas. Isso poderia levar a um cenário em que futuros médicos dependam de informações incorretas. A Abridge afirmou que avalia seus sistemas em todas as fases de implantação, incluindo testes comparativos com versões anteriores. "Após a implementação de um modelo, monitoramos edições feitas por clínicos, avaliações por estrelas e feedbacks em texto livre sobre a qualidade das anotações", declarou Davis Liang, diretor de ciência aplicada da empresa, em comunicado à KFF Health News.

A IA está transformando a saúde com uma série de ferramentas poderosas. No entanto, clínicos e defensores da segurança do paciente alertam que as regulamentações governamentais não estão preparadas para evitar que essas tecnologias ignorem ou ocultem detalhes importantes sobre a saúde dos pacientes, colocando-os em risco. "Atualmente, não há nenhuma salvaguarda federal para auditar softwares de anotações clínicas", afirmou Raj Ratwani, pesquisador especializado em fatores humanos — ou seja, como as pessoas interagem com a tecnologia — no MedStar Health, um grande sistema hospitalar em Columbia, Maryland.

Ratwani expressa preocupação de que as regulamentações para softwares de saúde possam se tornar ainda mais flexíveis. Regras propostas pelo Escritório do Coordenador Nacional de Tecnologia da Informação em Saúde — órgão que regula os prontuários eletrônicos, registros centrais de atendimento aos pacientes — poderiam enfraquecer requisitos para tornar os registros médicos compreensíveis, fáceis de usar e transparentes quanto ao uso de IA. Um registro incompreensível pode confundir clínicos e levar a erros.

Desde a administração Obama, o Departamento de Saúde e Serviços Humanos dos EUA tem incentivado o "design centrado no usuário" nos sistemas de saúde. No entanto, especialistas argumentam que, sem regulamentações mais rígidas, a adoção acelerada de ferramentas de IA pode comprometer a segurança e a qualidade do atendimento.