Herramienta de IA de SXSW eliminó críticas en Instagram
Una herramienta automatizada de inteligencia artificial, empleada por SXSW para identificar y eliminar publicaciones que violaran sus marcas registradas en redes sociales, fue utilizada para censurar a críticos del evento. Según denuncias, esta tecnología habría silenciado voces que cuestionaban el carácter cada vez más corporativo del festival.
Expansión y controversias de SXSW
Cada marzo, Austin (Texas) se transforma con SXSW, un evento que combina tecnología, música y cine. Este año, debido al derribo del antiguo centro de convenciones, las actividades se extendieron a nuevos espacios, como hoteles y terrenos vacíos. Sin embargo, el festival ha evolucionado desde sus humildes orígenes en 1987, volviéndose más exclusivo y comercial, lo que ha generado críticas entre activistas y organizaciones sociales.
Vocal Texas, víctima de una censura automatizada
La organización sin ánimo de lucro Vocal Texas, dedicada a combatir la pobreza, la falta de vivienda y la guerra contra las drogas, fue una de las afectadas. El 12 de marzo, sus miembros instalaron un campamento simbólico en el centro de Austin para denunciar las redadas policiales que destruyen los enseres de las personas sin hogar. Una de sus publicaciones en Instagram, que incluía la frase "SXSW significa que los austinianos sin hogar enfrentan redadas, multas y arrestos mientras la ciudad abre espacio a multimillonarios y corporaciones", fue eliminada automáticamente por infringir, supuestamente, los derechos de marca de SXSW. La imagen no incluía logos del evento, pero la mera mención del nombre habría sido suficiente para activar el sistema de detección de BrandShield, la empresa responsable de la herramienta.
¿Qué dice la ley sobre el uso de marcas registradas?
Cara Gagliano, abogada especializada en propiedad intelectual de la Electronic Frontier Foundation (EFF), aclaró que este tipo de publicaciones no violan la ley de marcas registradas.
"Tienes derecho a usar el nombre de una empresa para hablar de ella. ¿Cómo si no ibas a hacerlo?"Gagliano destacó que la legislación permite expresamente este tipo de críticas, siempre que no se utilice con fines publicitarios engañosos.
"Casos como este, donde no se anuncia un concierto con un nombre similar a SXSW, son claramente una aplicación excesiva de la normativa"
SXSW y sus intentos previos de silenciar disidentes
En marzo de 2024, la coalición Austin for Palestine recibió una cease and desist de SXSW por publicar imágenes que modificaban el logo oficial del evento con motivos bélicos. La EFF intervino y logró que la organización no enfrentara consecuencias legales. Sin embargo, Gagliano advirtió que los sistemas automatizados como el de BrandShield representan un riesgo mayor:
"Cuando se envían notificaciones de retirada a los autores de las publicaciones, el silencio de estos no garantiza que no haya represalias posteriores"
El problema de la censura automatizada
La eliminación de contenido crítico mediante herramientas de IA plantea serias dudas sobre la transparencia y los sesgos de estos sistemas. Organizaciones como la EFF denuncian que, en muchos casos, se prioriza la protección de marcas sobre el derecho a la libertad de expresión, especialmente cuando se trata de temas sociales controvertidos.
Artículos relacionados
ArXiv sanciona con un año de exclusión a autores que envíen trabajos generados por IA
ArXiv, the open-access repository of preprint academic research, will ban authors of papers for a year if they submit obviously AI-generated work. Lat...
Detrás del blog: Música nueva y un polémico informe sobre ICE
This is Behind the Blog, where we share our behind-the-scenes thoughts about how a few of our top stories of the week came together. This week, we dis...
La Clínica Mayo usa inteligencia artificial para grabar consultas en urgencias sin consentimiento explícito
Mayo Clinic, the massive U.S. hospital network, is using what it describes as “Ambient Listening” to record patient interactions with nurses, includin...
La IA avanzada redefine la guerra: el Pentágono advierte sobre su impacto revolucionario
Advanced artificial intelligence models will “fundamentally change warfare as we know it,” a top cyber official at the Defense Department said Thursda...
La identidad digital es clave: expertos advierten sobre su protección en la era de la IA
As AI becomes more integrated into federal IT (and attacker toolsets) government agencies will need to focus their resources on regulating and monitor...
Una app de IA recopila 150.000 imágenes de heces humanas para vender su base de datos
A few weeks ago, I came across a wild post on Reddit’s r/DHExchange, a subreddit for trading large datasets: “I hoarded a large database of something...
Nuevos modelos de IA superan todos los récords en ciberseguridad autónoma
Two of the most advanced artificial intelligence models — Anthropic’s Claude Mythos Preview and OpenAI’s GPT-5.5 — have significantly surpassed the al...
La Cámara de Representantes investiga el modelo de IA Mythos de Anthropic por sus riesgos cibernéticos
The House Homeland Security Committee is digging into Anthropic’s AI model Mythos in a series of briefings and hearings, as questions proliferate on w...