Un utilisateur du réseau social X a révélé qu’un nouvel outil d’intelligence artificielle de Canva, Magic Layers, modifiait automatiquement le mot "Palestine" en "Ukraine" dans les designs. Cette fonctionnalité, conçue pour transformer des images plates en éléments éditables, aurait dû rester neutre, mais elle a été prise en flagrant délit de censure involontaire.
L’utilisateur @ros_ie9 a partagé un exemple où la phrase "cats for Palestine" était automatiquement convertie en "cats for Ukraine". Aucun autre terme lié au conflit, comme "Gaza", n’a été affecté, suggérant que le problème était ciblé.
Canva a réagi rapidement après la publication du bug. Dans un communiqué, la société a confirmé avoir identifié l’anomalie et l’avoir corrigée. Elle a également annoncé des mesures pour éviter que cette erreur ne se reproduise.
« Nous avons pris connaissance d’un problème concernant notre fonctionnalité Magic Layers, qui entraînait des modifications non intentionnelles dans certains designs. Nous avons immédiatement corrigé l’erreur et renforcé nos contrôles pour garantir que cela ne se reproduise pas. »
Cette affaire rappelle les risques liés aux outils d’IA, dont les biais peuvent parfois altérer involontairement le contenu généré. Canva, largement utilisé pour la création graphique, n’avait jusqu’ici pas signalé de dysfonctionnement similaire.
Articles connexes
YouTube étend son outil de détection des deepfakes à tous ses utilisateurs adultes
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
La Russie recrute des étudiants comme pilotes de drones militaires avec des avantages financiers
Russian universities are promising free tuition and up to $70,000 to students who are willing to serve as drone pilots in the Russian military for a y...
Le règlement de 1,5 milliard de dollars d'Anthropic sur les droits d'auteur bloqué par un juge fédéral
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv interdit aux chercheurs publiant des articles générés par IA sans vérification
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv interdit les soumissions contenant des hallucinations générées par IA
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI réorganise ses dirigeants pour dominer la course aux agents IA
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
Des DJ IA à l'antenne : quand l'IA échoue à gérer seule une station radio
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google renforce ses règles anti-spam pour lutter contre la manipulation de l’IA dans les résultats
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...