Meta toont ouders onderwerpen van tienergesprekken met AI

Meta neemt opnieuw maatregelen om ouders te overtuigen dat hun platforms veilig zijn voor tieners. In een nieuwe functie kunnen ouders nu de onderwerpen zien waar hun tiener de afgelopen zeven dagen met Meta AI over heeft gesproken. Dit geldt voor gesprekken via Facebook, Messenger of Instagram.

Volgens een blogbericht van Meta krijgen ouders toegang tot deze informatie via een nieuwe Insights-tab in de oudercontrolefunctie, zowel in de app als op de website. Door op een onderwerp te tikken, kunnen ouders verdere details zien. Bijvoorbeeld vallen onder het onderwerp Lifestyle subcategorieën als mode, voeding en vakanties, terwijl Gezondheid en Welzijn onder meer fitness, lichamelijke gezondheid en mentale gezondheid omvat.

Meta werkte samen met het Cyberbullying Research Center om zogeheten ‘gesprekstarters’ te ontwikkelen. Dit zijn open vragen die ouders kunnen gebruiken om met hun tiener in gesprek te gaan over hun ervaringen met AI. Deze gesprekstarters zijn beschikbaar op de Family Center-website of via een link in de nieuwe Insights-tab.

Daarnaast onthulde Meta meer details over haar nieuwe AI Wellbeing Expert Council. Deze raad zal continu advies geven over de AI-ervaringen voor tieners. De raad bestaat uit drie bestaande adviesgroepen en nieuwe leden met expertise op het gebied van verantwoorde en ethische AI. Deze leden zijn verbonden aan organisaties zoals de National Council of Suicide Prevention en verschillende universiteiten.

Het is opmerkelijk dat Meta recentelijk de afhankelijkheid van externe partijen voor contentmoderatie heeft verminderd. In plaats daarvan vertrouwt het bedrijf nu meer op geavanceerde AI-systemen. Dit roept echter vragen op over de effectiviteit en veiligheid van deze systemen, vooral gezien de risico's van AI voor jongeren.

Landelijk worden deze risico's steeds duidelijker. Zo heeft Spanje sociale media-platforms voor kinderen verboden, en in Canada werd een tiener door ChatGPT van OpenAI voorzien van gedetailleerde instructies voor een schoolschieting. In Florida loopt een onderzoek naar een soortgelijk incident, en AI wordt ook in verband gebracht met meerdere tienerzelfmoorden.

Voor hulpverlening in crisissituaties zijn er in de VS verschillende opties beschikbaar, zoals de National Suicide Prevention Lifeline (1-800-273-8255) of het nummer 988. Ook de Crisis Text Line is bereikbaar via een simpele tekst naar HOME op de nummers 741741 (VS), 686868 (Canada) of 85258 (VK). Voor mensen buiten deze landen is er een lijst met crisislijnen beschikbaar op Wikipedia.