AI-værktøj fjernede kritiske opslag om SXSW – blot fordi navnet blev nævnt

Et AI-drevet værktøj, der normalt identificerer og fjerner opslag, der overtræder varemærkerettigheder, blev i marts brugt til at censurere kritikere af SXSW, den store årlige tech-, musik- og filmfestival i Austin, Texas. Kritikere hævder, at festivalen er blevet mere korporativ og mindre tilgængelig siden dens begyndelse i 1987.

En af de ramte var Vocal Texas, en nonprofit organisation, der arbejder for at bekæmpe hjemløshed, HIV, fattigdom og krigen mod narkotika. Den 12. marts opsatte gruppen en mock-lejr i downtown Austin for at protestere mod, hvordan hjemløse mister deres ejendele under politiets og byens såkaldte 'fejninger' – når telt og livsvigtigt udstyr konfiskeres eller destrueres.

Et opslag på Instagram fra Vocal Texas lød: "SXSW betyder, at hjemløse i downtown Austin bliver mødt med lejrfejninger, bøder og anholdelser, mens byen gør plads til milliardærer og virksomheder, der høster profit." Opslaget indeholdt ingen officielle SXSW-logoer, men blot en omtale af festivalen. Alligevel blev opslaget automatisk fjernet af Instagram efter en henvendelse fra BrandShield, et firma, der tilbyder 'digital risikobeskyttelse' ved hjælp af AI til at opdage og fjerne krænkende indhold.

Cara Gagliano, senioradvokat hos Electronic Frontier Foundation (EFF), påpeger, at sådanne opslag ikke krænker SXSW’s varemærkerettigheder. "Du må gerne nævne et firma for at tale om det, ikke? Hvordan ellers ville du gøre det?" Hun understreger, at varemærkeloven har klare undtagelser for kritisk tale.

"Sager som denne, hvor det ikke handler om at promovere en koncert med et navn, der ligner SXSW, er tydelige eksempler på overdreven håndhævelse," siger hun.

I marts 2024 greb EFF ind, da koalitionen Austin for Palestine modtog et cease and desist-brev fra SXSW. Brevet anklagede koalitionen for at krænke festivalens varemærke og ophavsret, fordi de havde brugt SXSW’s logo med blodpletter og krigsmotiver i protest mod festivalens militære sponsorer. EFF skrev et svarbrev på koalitionens vegne, og sagen blev aldrig videreført. Men Gagliano pointerer, at denne sag adskiller sig fra BrandShields automatiske fjernelser.

"Når det er en trussel sendt direkte til den person, der har lavet det påståede krænkende indhold, er det en sejr for klienten, fordi der ikke sker noget dårligt for dem. Men når opslag automatisk bliver fjernet, er det en helt anden situation – her bliver ytringsfriheden direkte ramt," forklarer hun.