AI-verktyg censurerade kritiker av SXSW – även utan varumärkesintrång

AI-verktyg rensade sociala medier från kritik mot SXSW

Ett automatiserat system för att upptäcka och ta bort inlägg som misstänks bryta mot varumärkesregler användes nyligen för att censurera kritiker av den stora SXSW-konferensen i Austin, Texas. BrandShield, ett företag som marknadsför sig som en "digital risk protection-tjänst", skickade automatiserade meddelanden till användare vars inlägg nämnde SXSW – trots att innehållet inte stod i strid med varumärkeslagen.

Mockläger protesterade mot polisrensningar

Den ideella organisationen Vocal Texas, som arbetar mot hemlöshet, HIV, fattigdom och drogkriget, drabbades av detta. Den 12 mars i år satte gruppen upp ett mockläger i centrala Austin för att uppmärksamma hur hemlösa förlorar sina tillhörigheter när polisen genomför s.k. "svep" – rensningar där tält och livsviktig utrustning konfiskeras eller förstörs. Ett av deras inlägg på Instagram löd: "SXSW innebär att hemlösa i Austin riskerar att få sina läger svepta, böter och arresteringar medan staden gör plats för miljardärer och företag som tjänar stora vinster."

Inlägget innehöll ingen logotyp eller direkt reklam för SXSW, men nämnandet av konferensen räckte för att BrandShields AI-verktyg skulle flagga det som ett potentiellt varumärkesintrång. Resultatet blev att inlägget automatiskt togs bort från Instagram.

Varumärkeslagen tillåter kritisk användning

Cara Gagliano, senior jurist på Electronic Frontier Foundation (EFF) som specialiserar sig på varumärkes- och upphovsrättsfrågor, påpekar att sådana här inlägg inte bryter mot lagen. "Du har rätt att nämna ett företags namn när du diskuterar det. Hur annars skulle man kunna göra?"

Gagliano förklarar att varumärkeslagen innehåller undantag för just denna typ av kritisk yttring. "Fall där man inte marknadsför en konsert med ett namn liknande SXSW, utan snarare kritiserar konferensen, är tydliga exempel på överdriven tillämpning av reglerna."

Tidigare fall: Palestinagrupper hotades med rättsliga åtgärder

EFF har tidigare ingripit när Austin for Palestine-koalitionen fick ett cease and desist-brev från SXSW. Koalitionen hade publicerat inlägg där SXSW:s logotyp hade modifierats med blodstänk och krigsrelaterade symboler för att protestera mot konferensens samarbete med den amerikanska militären. EFF skrev ett svar på koalitionens vägnar, och gruppen hörde aldrig av SXSW igen.

Gagliano betonar dock att skillnaden mellan dessa fall är avgörande: "När hot skickas direkt till den som gjort det påstådda intrånget, är det en seger för klienten eftersom inget dåligt händer. Men när automatiserade borttagningar sker på sociala medier, drabbar det en bredare allmänhet och riskerar att censurera legitim kritik."

SXSW:s förändrade karaktär och växande motstånd

SXSW, som startade 1987 som en relativt liten sammankomst för musik och film, har under de senaste decennierna utvecklats till en allt mer kommersiell och exklusiv evenemangskonferens. I år expanderade konferensen ytterligare på grund av renoveringar av stadens konventionscenter, vilket ledde till att evenemangen spreds till hotell, parkeringsplatser och andra ovanliga platser.

Denna förändring har lett till ökad kritik mot SXSW:s kommersialisering och dess prioriteringar. Kritiker menar att konferensen alltmer gynnar stora företag och miljardärer på bekostnad av lokalbefolkningen, vilket också speglas i de senaste protesterna och de borttagna inläggen.

"När automatiserade system används för att censurera kritik, riskerar vi att förlora viktiga demokratiska samtal. Varumärkeslagen ska skydda företag, inte tysta deras kritiker." – Cara Gagliano, EFF