Los médicos se enfrentan al auge de los deepfakes con IA: un problema de salud pública

Los deepfakes médicos: una amenaza creciente para la credibilidad sanitaria

La inteligencia artificial está convirtiendo a médicos en estrellas involuntarias de deepfakes que promocionan productos dudosos o difunden desinformación en redes sociales. Este fenómeno, en auge, está erosionando la confianza en la profesión médica y podría derivar en fraudes de seguros, robos de datos o riesgos para los pacientes.

Llamamiento urgente de la comunidad médica

La Asociación Médica Americana (AMA) ha instado a legisladores federales y estatales a cerrar vacíos legales y modernizar las protecciones de identidad para hacer frente a lo que su CEO, John Whyte, califica como una crisis de salud pública y seguridad.

Entre sus demandas, la AMA pide:

• Sancionar a los creadores de deepfakes.
• Obligar a las plataformas tecnológicas a eliminar rápidamente las impersonaciones.
• Establecer directrices para que los médicos afectados sepan cómo actuar.
• Reforzar las coberturas de seguros por mala praxis y ciberriesgos.

Casos recientes que alertan a los profesionales

En California, se están debatiendo medidas para prohibir explícitamente los deepfakes de médicos, mientras que el estado ya exige que los anuncios con IA incluyan divulgaciones claras. Por su parte, la junta médica de Pensilvania ordenó a una empresa tecnológica cesar el uso de un chatbot que se hacía pasar por un médico con licencia para ejercer en el estado.

El Dr. Sanjay Gupta, de CNN, ha sido víctima de estos fraudes. Deepfakes con su imagen promocionan supuestos avances médicos, como una cura para el Alzheimer, tan convincentes que han engañado incluso a conocidos suyos.

Consecuencias legales y riesgos clínicos

Los médicos podrían enfrentar demandas si los pacientes resultan perjudicados por productos falsificados o consejos médicos inexistentes, advierte Whyte. Además, el fraude no se limita a personas: los sistemas de salud están detectando imágenes diagnósticas falsificadas que pueden alterar diagnósticos y generar caos clínico.

"Existe un riesgo significativo de ciberseguridad si los hackers acceden a la red de un hospital e inyectan imágenes sintéticas para manipular diagnósticos o causar caos clínico generalizado".

¿Por qué es difícil detectar estos fraudes?

Un estudio publicado en la revista Radiology reveló que la mayoría de los clínicos no identifican deepfakes en radiografías. Un 25% de los participantes no detectó las falsificaciones ni siquiera después de ser alertados sobre características como texturas anormales en tejidos blandos o superficies óseas demasiado lisas.

El futuro de la credibilidad médica

Whyte subraya que la sociedad no debería tener que actuar como detective para discernir si un contenido es un deepfake. "La credibilidad en medicina puede marcar la diferencia entre la vida y la muerte", advierte. La AMA insiste en la necesidad de leyes que protejan tanto a los profesionales como a los pacientes en la era de la inteligencia artificial.