AI-manipulerede videoer af Taylor Swift og Rihanna bruges til svindel på TikTok

AI-svindel med kendisser vokser på TikTok

Scammerne udnytter AI-teknologi til at skabe realistiske videoer af kendisser som Taylor Swift og Rihanna. Disse videoer bliver brugt til at promovere tvivlsomme tjenester på TikTok, viser en ny rapport fra sikkerhedsfirmaet Copyleaks.

De falske videoer er ofte redigeret ud fra autentisk footage fra begivenheder som røde løber, podcasts eller talkshows. Mange af reklamerne lover brugerne hurtige penge ved at se TikTok-indhold og give feedback. Selvom nogle annoncer bærer TikTok’s officielle branding, bliver brugerne omdirigeret til tredjepartstjenester, der beder om følsomme oplysninger.

Sådan fungerer svindlerne

I én af de falske annoncer fremstår en AI-genereret version af Taylor Swift og opfordrer seerne til at deltage i et belønningsprogram. Programmet lover store gevinster for minimal indsats, men kræver i stedet personlige data som navn, adresse og bankoplysninger.

Ifølge Copyleaks’ analyse bliver disse videoer spredt via betalte annoncer på TikTok, hvilket gør dem sværere at skelne fra ægte indhold. Platformen har endnu ikke formået at fjerne alle de falske profiler, der driver svindlen.

Sådan beskytter du dig selv

• Vær skeptisk over for videoer med kendisser, der lover hurtige penge eller eksklusive tilbud.
• Tjek altid afsenderen af annoncerne – officielle TikTok-annoncer vil aldrig omdirigere til tredjepartstjenester.
• Del aldrig personlige eller økonomiske oplysninger i forbindelse med belønningsprogrammer på sociale medier.
• Rapportér mistænkelige profiler og annoncer direkte til TikTok.

"AI-genererede deepfakes bliver stadig mere sofistikerede, og det er svært for brugere at skelne mellem ægte og falske videoer. Det er vigtigt at være opmærksom og kritisk over for indhold på sociale medier," siger en talsmand fra Copyleaks.

TikTok reagerer på problemet

TikTok har tidligere fjernet tusindvis af falske konti, der stod bag lignende svindelnumre. Platformen oplyser, at de arbejder på at forbedre deres detektionssystemer for at identificere og blokere AI-genererede misinformation hurtigere.

Alligevel fortsætter problemet med at vokse, da scammerne konstant udvikler nye metoder til at omgå platformens sikkerhedsforanstaltninger.