Meta, het moederbedrijf van Facebook en Instagram, heeft een nieuwe kunstmatige intelligentie (AI)-technologie geïntroduceerd om gebruikers jonger dan 13 jaar te detecteren en te verwijderen van haar platforms. Volgens een blogpost die dinsdag werd gepubliceerd, zal het AI-systeem foto’s en video’s scannen op zogenaamde ‘algemene thema’s en visuele aanwijzingen’.
Daaronder vallen onder meer lichaamslengte en botstructuur. Meta benadrukt dat het systeem geen gezichtsherkenning gebruikt en ook niet specifiek personen identificeert. Het doel is om kinderen onder de 13 jaar buiten de platforms te houden.
Naast foto’s en video’s zal de AI ook berichten, reacties, profielbeschrijvingen en bijschriften analyseren op ‘contextuele aanwijzingen’ die kunnen wijzen op de aanwezigheid van jongere gebruikers. Meta heeft echter nog niet gedetailleerd uitgelegd hoe deze analyse precies werkt of welke specifieke signalen worden gebruikt.
Deze stap maakt deel uit van de bredere inspanningen van Meta om de veiligheid van jongeren op haar platforms te vergroten. Eerder dit jaar kondigde het bedrijf al aan dat het de leeftijdscontroles op Facebook en Instagram zou versterken, onder meer door gebruikers expliciet te vragen hun geboortedatum in te vullen.
Critici wijzen echter op de uitdagingen van dergelijke systemen, zoals de mogelijkheid tot vals-positieve detecties en de ethische vraagstukken rondom privacy en gegevensbescherming. Meta heeft nog geen reactie gegeven op deze zorgen.
Gerelateerde artikelen
Snapchat en YouTube lossen grote rechtszaak over verslaving op
The companies are facing numerous other legal challenges.
YouTube breidt AI-detectietool voor deepfakes uit naar alle volwassen gebruikers
YouTube is expanding its AI likeness detection program to all users over the age of 18 - meaning just about anyone can have the platform hunt for pote...
Chaos rond $1,5 miljard schikking Anthropic: rechter blokkeert goedkeuring
After several authors and class members raised objections to Anthropic's $1.5 billion settlement over its widespread book piracy to train AI, a federa...
ArXiv verbiedt onderzoekers die papers vol met AI-gegenereerde rommel uploaden
ArXiv, a popular platform for preprint academic research, is taking a new step to attempt to reduce the volume of papers that include AI slop. If a pa...
arXiv verbiedt AI-hallucinaties: auteurs riskeren één jaar schorsing
AI-generated slop has shown up everywhere, including in the peer-reviewed literature. Fake citations, unedited prompt responses, and nonsensical diagr...
OpenAI herstructureert leiding om AI-agenten te versnellen
OpenAI announced yet another reorganization Friday, consolidating certain areas and making company president Greg Brockman the official lead of all th...
AI-radiohosts lopen vast: experiment toont gevaren van volledig autonome AI
AI radio DJs demonstrated their volatile personalities. | Image: Cath Virginia / The Verge, Getty Images Andon Labs has been running a series of exper...
Google verbiedt manipulatietechnieken in AI-zoekresultaten
Google updated its spam policy to mark attempts to "manipulate" its AI model in search results as spam, including results in AI Overview or AI Mode in...