SXSW censure des critiques sur Instagram via un outil de détection de marques alimenté par l'IA

Un outil d'intelligence artificielle, initialement développé pour détecter les violations de marques sur les réseaux sociaux, a été détourné pour censurer des critiques envers SXSW, le célèbre festival annuel de technologie, musique et cinéma à Austin, au Texas.

Chaque mois de mars, SXSW transforme Austin en un vaste terrain d'événements. Cette année, en raison de la démolition du centre des congrès historique de la ville, les activités se sont étendues à de nouveaux lieux, des salles d'hôtels aux terrains vagues. Pourtant, l'identité de SXSW s'est éloignée de ses origines modestes de 1987 : le festival, désormais plus corporate et moins accessible, suscite de vives critiques.

Parmi les détracteurs ciblés cette année figure Vocal Texas, une organisation à but non lucratif luttant contre la pauvreté, le sans-abrisme, le VIH et la guerre contre la drogue. Le 12 mars, ses membres ont installé un campement fictif en plein centre-ville d'Austin pour alerter sur les conséquences des « opérations de nettoyage » menées par la police et les autorités locales. Ces interventions, qui consistent à confisquer ou détruire les tentes et effets personnels des personnes sans-abri, privent ces dernières de ressources vitales.

Une publication d'Instagram supprimée par l'outil automatisé de BrandShield contenait le message suivant : « À Austin, pendant SXSW, les sans-abri subissent des expulsions, des amendes et des arrestations tandis que la ville réserve ses espaces aux milliardaires et aux entreprises pour générer des profits. » L'image associée, intitulée « Balayez les milliardaires », ne reprenait aucun logo de SXSW. Pourtant, la simple mention du festival a suffi à déclencher l'algorithme de détection de marques de BrandShield, entraînant la suppression automatique du post.

Cara Gagliano, avocate principale à l'Electronic Frontier Foundation (EFF) spécialisée en droit des marques et de la propriété intellectuelle, souligne que ce type de publication ne constitue pas une violation des droits de SXSW. « On a le droit de mentionner une entreprise pour en parler, non ? Comment ferait-on autrement ? » a-t-elle déclaré à 404 Media. Elle rappelle que la loi sur les marques prévoit des exceptions pour ce genre de discours critique : « Des cas comme celui-ci, où il ne s'agit pas par exemple de faire de la publicité pour un concert avec un nom similaire à SXSW, relèvent clairement d'une application excessive des règles. »

En mars 2024, l'EFF est également intervenue pour soutenir la coalition Austin for Palestine, qui avait reçu un cease and desist de SXSW. L'association, engagée dans l'organisation de manifestations contre le partenariat du festival avec l'armée américaine, avait partagé des publications reprenant le logo en forme de flèche de SXSW, modifié avec des taches de sang et des avions de combat. L'EFF a envoyé une lettre au nom de la coalition, mettant fin à l'affaire. Cependant, comme l'explique Gagliano, cette situation diffère des suppressions automatiques opérées par BrandShield : « Lorsqu'une menace est envoyée à la personne concernée, son retrait est une victoire pour le client, car rien de grave ne lui arrive. Mais quand des publications sont supprimées sans avertissement préalable, les conséquences peuvent être bien plus lourdes. »