L'Utah suspend son expérimentation controversée d'IA médicale sans supervision humaine

Une décision sans précédent contre l'IA médicale

L'État de l'Utah fait face à une crise autour de son projet pilote d'IA médicale. Le Conseil des licences médicales de l'Utah a exigé, dans une lettre publiée vendredi, la suspension immédiate d'un programme expérimental permettant à une intelligence artificielle de renouveler des ordonnances sans supervision d'un médecin.

Un manque de consultation dénoncé

Selon le conseil, les autorités de l'État ont lancé ce projet avec la startup Doctronic sans en informer préalablement le conseil médical. Une omission jugée grave, car elle pourrait, selon eux, mettre en danger la santé des citoyens.

Dans leur communiqué, les membres du conseil ont écrit :

« Mener ce projet sans consulter le Conseil médical expose potentiellement les habitants de l'Utah à des risques et reste une préoccupation majeure. Il est de notre devoir de recommander fermement la suspension immédiate de ce programme en attendant des discussions approfondies. »

Les médecins s'opposent à l'automatisation des soins

Cette décision marque la première opposition majeure des professionnels de santé contre l'utilisation de l'IA dans la prescription médicale. Les médecins craignent que l'absence de contrôle humain ne compromette la qualité des soins et la sécurité des patients.

Le projet, lancé discrètement, avait pour objectif de tester un système automatisé pour les renouvellements d'ordonnances chroniques, comme celles pour l'hypertension ou le diabète. Cependant, son manque de transparence a rapidement suscité des critiques.

Les enjeux éthiques et juridiques

Cette affaire soulève plusieurs questions :

• La responsabilité médicale : Qui est responsable en cas d'erreur commise par l'IA ?
• La protection des données : Comment garantir la confidentialité des informations des patients ?
• L'équité d'accès aux soins : L'IA pourrait-elle creuser les inégalités entre patients selon leur situation géographique ou financière ?

Réactions et prochaines étapes

Le conseil médical exige désormais des discussions urgentes avec les autorités de l'État pour encadrer ce type d'expérimentations. Une suspension immédiate du projet est réclamée en attendant une évaluation complète des risques.

De son côté, la startup Doctronic n'a pas encore réagi publiquement à cette demande. Les observateurs s'attendent à un débat intense dans les semaines à venir sur l'avenir de l'IA dans le domaine médical.