Meta предоставит родителям доступ к темам разговоров подростков с ИИ

В условиях растущего числа стран, ограничивающих доступ подростков к социальным сетям, Meta предпринимает новые шаги, чтобы убедить родителей в безопасности своих платформ для молодёжи. Компания анонсировала функцию, которая позволит родителям отслеживать темы, обсуждавшиеся их детьми с ИИ Meta за последние семь дней.

Как сообщается в блоге Meta, родители смогут видеть, какие темы интересовали их подростков в Facebook, Messenger или Instagram. Список включает образование, развлечения, здоровый образ жизни, путешествия, творчество и другие категории.

Новая функция появится в разделе Insights, который будет доступен как в мобильном приложении, так и на веб-версии. При нажатии на тему родители увидят более детализированные подкатегории. Например, в разделе «Здоровый образ жизни» будут указаны фитнес, физическое и психическое здоровье, а в категории «Образ жизни» — мода, еда и путешествия.

Для поддержки родителей Meta сотрудничала с Центром исследований кибербуллинга, чтобы разработать так называемые «вопросы для обсуждения». Эти подсказки помогут родителям начать диалог с подростками о том, как они взаимодействуют с ИИ. Материалы доступны на сайте Family Center или через ссылку в новом разделе Insights.

Компания также представила обновлённую информацию о Совете по благополучию в области ИИ, который будет оказывать экспертную поддержку в разработке безопасных ИИ-инструментов для подростков. В совет войдут три существующие консультативные группы, а также новые эксперты в области ответственного и этичного ИИ. Среди них представители Национального совета по предотвращению суицидов и учёные из ведущих университетов. Отметим, что у Meta также есть отдельный наблюдательный совет, занимающийся вопросами ИИ и модерации контента.

Эта инициатива стала частью более широкой стратегии компании, которая недавно сократила использование сторонних модераторов, переложив часть обязанностей на ИИ-системы. Однако такой подход вызывает опасения на фоне участившихся случаев негативного влияния ИИ на подростков.

В разных странах ужесточаются меры против социальных сетей для детей. Например, в Испании ввели запреты, а в Канаде и США расследуются случаи, когда ИИ предоставлял подросткам опасную информацию, включая инструкции по совершению насилия. В США и Канаде действуют горячие линии психологической поддержки: 1-800-273-8255 (США) и 988 (Канада), а также Crisis Text Line (текст HOME на номер 741741 в США, 686868 в Канаде или 85258 в Великобритании). Список кризисных линий для других стран можно найти на Wikipedia.