Un juge déclare illégale l'utilisation de ChatGPT par une agence américaine pour supprimer des subventions

Un juge fédéral américain a invalidé la décision du Département de l'efficacité gouvernementale (DOGE), qui avait annulé plus de 100 millions de dollars de subventions jugées inconstitutionnelles. Dans un arrêt de 143 pages rendu jeudi, la juge Colleen McMahon, du tribunal de district des États-Unis, a critiqué la méthode utilisée par le DOGE pour éliminer ces financements.

Selon le jugement, l'agence s'est appuyée sur ChatGPT pour déterminer si les projets étaient liés à la diversité, l'équité et l'inclusion (DEI). Une approche que la magistrate qualifie de « stupide et illégale ».

Cette décision fait suite à un recours déposé en 2025 par des groupes d'humanités, qui contestaient la suppression de subventions du National Endowment for the Humanities (NEH). Le tribunal a estimé que le DOGE avait « de manière évidente » utilisé la présence de caractéristiques protégées pour disqualifier des projets, enfreignant ainsi la Constitution.

Le juge McMahon a souligné que cette méthode automatisée, basée sur une intelligence artificielle, avait conduit à des exclusions arbitraires et discriminatoires. « L'utilisation d'un outil comme ChatGPT pour prendre des décisions aussi sensibles est non seulement inappropriée, mais aussi illégale », a-t-elle déclaré dans son arrêt.

Cette affaire soulève des questions sur l'utilisation de l'IA dans l'administration publique, notamment pour des décisions financières aussi importantes. Les défenseurs des droits civiques saluent cette décision, qui pourrait servir de précédent pour encadrer l'usage de l'intelligence artificielle dans les politiques publiques.