El Consejo de Licencias Médicas de Utah ha emitido una advertencia contundente: suspender de inmediato el programa piloto que permite a un chatbot evaluar a pacientes y recomendar la renovación de recetas para casi 200 fármacos destinados a tratar enfermedades crónicas.
La empresa Doctronic colaboraba con el estado en este proyecto, que eliminaba la revisión obligatoria por parte de médicos para cada caso. Sin embargo, el consejo descubrió la existencia del programa después de su lanzamiento, lo que generó preocupación por la falta de supervisión clínica adecuada.
En un comunicado, el organismo declaró que proceder sin una evaluación clínica rigurosa «podría poner potencialmente en riesgo a los ciudadanos de Utah». La decisión refleja la creciente inquietud sobre el uso de inteligencia artificial en la medicina sin los controles necesarios.
Este caso subraya la necesidad de establecer un marco regulatorio claro para la implementación de herramientas de IA en el ámbito sanitario. Expertos en salud y tecnología debaten si los sistemas de inteligencia artificial deberían requerir licencia, similar a los profesionales médicos humanos, para garantizar la seguridad de los pacientes.
Mientras tanto, el programa de Doctronic en Utah queda en suspenso hasta que se evalúen los riesgos y se implementen las medidas de protección adecuadas.