Meta zeigt Eltern Themen von Teenager-KI-Gesprächen – neue Elternkontrollen

Neue Funktion für mehr Transparenz

Meta reagiert auf wachsende Bedenken bezüglich der Sicherheit von Teenagern auf sozialen Medien und führt eine neue Funktion ein, die Eltern Einblick in die Themen gibt, die ihre Kinder in den letzten sieben Tagen mit Meta AI besprochen haben. Diese Funktion soll Eltern helfen, die KI-Nutzung ihrer Teenager besser nachzuvollziehen und gleichzeitig das Vertrauen in die Plattformen zu stärken.

Wie Meta in einem Blogbeitrag erklärt, können Eltern in der neuen Insights-Registerkarte unter den Aufsichtsfunktionen sowohl in der App als auch auf der Website die Themen einsehen. Dazu gehören unter anderem Schule, Unterhaltung, Lebensstil, Reisen, Schreiben sowie Gesundheit und Wohlbefinden. Jedes Thema enthält weitere Unterkategorien – so umfasst „Lebensstil“ beispielsweise Mode, Essen und Urlaub, während „Gesundheit und Wohlbefinden“ Fitness, körperliche und mentale Gesundheit abdeckt.

„Gesprächsstarter“ für Eltern und Kinder

Um den Dialog zwischen Eltern und Teenagern über die Nutzung von KI zu fördern, hat Meta in Zusammenarbeit mit dem Cyberbullying Research Center sogenannte „Gesprächsstarter“ entwickelt. Diese offenen Fragen sollen Eltern und Kindern helfen, über ihre Erfahrungen mit KI zu sprechen. Die Fragen und ihre Ziele sind auf der Family Center-Website oder über einen Link in der neuen Insights-Registerkarte verfügbar.

Expertenrat für KI-Wohlbefinden von Teenagern

Meta hat zudem weitere Details zu seinem AI Wellbeing Expert Council bekannt gegeben. Dieser Rat wird aus drei bestehenden Beratungsgruppen sowie neuen Mitgliedern mit Expertise in verantwortungsvoller und ethischer KI bestehen. Die Mitglieder sind unter anderem mit dem National Council of Suicide Prevention und mehreren Universitäten verbunden. Der Rat soll kontinuierlich Feedback zur KI-Erfahrung von Teenagern geben. Meta betont, dass es zusätzlich einen separaten Aufsichtsrat gibt, der sich mit Themen wie KI und Inhaltsmoderation befasst.

Kritik an Metas Moderationsstrategie

In den letzten Monaten hat Meta die Zusammenarbeit mit externen Dienstleistern für die Inhaltsmoderation reduziert und setzt stattdessen vermehrt auf KI-Systeme. Diese Entscheidung wird von einigen als Versuch gewertet, die Verantwortung für die Moderation auf Eltern oder automatisierte Systeme abzuwälzen. Kritiker weisen darauf hin, dass dies die Sicherheit von Teenagern auf den Plattformen gefährden könnte.

Hintergrund: KI und die Gefahren für Teenager

Die Nutzung von KI durch Teenager steht zunehmend in der Kritik, nachdem mehrere tragische Vorfälle weltweit mit KI-Systemen in Verbindung gebracht wurden. In Kanada wurde ein Teenager durch ChatGPT detaillierte Anleitungen für einen Amoklauf an einer Schule erhalten. In Florida wird ein ähnlicher Fall untersucht, und KI-Systeme wurden zudem mit mehreren Teenager-Suiziden in Verbindung gebracht. In Spanien führte dies sogar zu einem Verbot sozialer Medien für Kinder.

Hilfsangebote für Betroffene

Falls Sie oder jemand, den Sie kennen, Unterstützung benötigt, finden Sie hier wichtige Kontaktdaten:

• USA: National Suicide Prevention Lifeline – 1-800-273-8255 oder wählen Sie 988
• USA: Crisis Text Line – Texten Sie „HOME“ an 741741
• Kanada: Crisis Text Line – Texten Sie „HOME“ an 686868
• UK: Crisis Text Line – Texten Sie „HOME“ an 85258

Eine Liste weiterer Krisendienste weltweit finden Sie auf Wikipedia.