YouTube voegt een nieuwe functie toe aan zijn platform om AI-gegenereerde deepfakes van beroemdheden te detecteren en te verwijderen. Het likeness detection-programma scant YouTube op nepvideo’s en waarschuwt geregistreerde publieke figuren, zoals acteurs, zangers en influencers, wanneer hun gezicht of stem wordt misbruikt.
Gebruikers kunnen vervolgens een verzoek indienen om de video te laten verwijderen. YouTube beoordeelt elk verzoek volgens de privacy- en contentrichtlijnen van het platform. Niet alle verzoeken worden goedgekeurd, maar het systeem biedt wel een extra beschermingslaag tegen misleidende AI-content.
Het programma is niet nieuw: YouTube testte het al in het najaar van 2023 bij content creators. In maart 2024 breidde het bedrijf de functie uit naar politici en journalisten. Nu volgt de volgende stap: Hollywood. Grote namen in de entertainmentindustrie kunnen zich inschrijven om hun digitale imago beter te beschermen.
Volgens YouTube is deze uitbreiding een reactie op de groeiende bezorgdheid over deepfakes en de impact ervan op reputaties. Het platform benadrukt dat het systeem niet perfect is, maar wel een belangrijke stap is in de strijd tegen AI-misbruik.
Hoe werkt het likeness detection-programma?
- Registratie: Publieke figuren melden zich aan via een speciaal portaal.
- Scannen: YouTube’s algoritme zoekt actief naar video’s waarin hun gezicht, stem of andere herkenbare kenmerken worden gebruikt.
- Melding: Gebruikers ontvangen een waarschuwing wanneer er een mogelijke deepfake wordt gevonden.
- Verzoek tot verwijdering: Indien gewenst kunnen ze een verzoek indienen om de video te laten verwijderen.
- Beoordeling: YouTube evalueert het verzoek op basis van de bestaande content- en privacyregels.
Beperkingen en kritiek
Hoewel het programma een stap voorwaarts is, zijn er ook beperkingen. Zo wordt niet elk verzoek automatisch gehonoreerd. Daarnaast is het systeem afhankelijk van de nauwkeurigheid van de AI-detectie, wat soms tot foutmeldingen kan leiden. Critici wijzen erop dat deepfakes steeds geavanceerder worden, waardoor detectie een uitdaging blijft.
YouTube werkt echter aan verbeteringen en overweegt in de toekomst mogelijk ook automatische blokkering van duidelijk schadelijke content.
Gerelateerde artikelen
Snapchat en YouTube lossen grote rechtszaak over verslaving op
The companies are facing numerous other legal challenges.
YouTube breidt AI-detectietool voor deepfakes uit naar alle volwassen gebruikers
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Chaos rond $1,5 miljard schikking Anthropic: rechter blokkeert goedkeuring
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv verbiedt onderzoekers die papers vol met AI-gegenereerde rommel uploaden
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv verbiedt AI-hallucinaties: auteurs riskeren één jaar schorsing
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI herstructureert leiding om AI-agenten te versnellen
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
AI-radiohosts lopen vast: experiment toont gevaren van volledig autonome AI
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google verbiedt manipulatietechnieken in AI-zoekresultaten
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...