Meta permitirá que pais vejam tópicos das conversas de IA dos adolescentes

Meta lança ferramenta para aumentar transparência com pais de adolescentes

A Meta anunciou uma nova funcionalidade que permitirá que pais monitorem os tópicos discutidos por seus filhos com a Meta AI nos últimos sete dias. A medida visa reforçar a segurança das plataformas para adolescentes, em meio a críticas e restrições globais.

Como funciona o monitoramento

Os pais poderão acessar os temas abordados nas conversas de seus filhos por meio de uma nova aba chamada Insights, disponível tanto no aplicativo quanto na versão web. Ao clicar em um tópico, como Lifestyle ou Health and Wellbeing, os responsáveis verão subcategorias detalhadas, como moda, alimentação e viagens dentro de Lifestyle, ou saúde física e mental em Health and Wellbeing.

"Os pais poderão ver os temas que seus adolescentes perguntaram à Meta AI na [Facebook, Messenger ou Instagram] na última semana", afirmou a empresa em comunicado oficial.

Ferramentas adicionais para famílias

A Meta também desenvolveu conversas guiadas em parceria com o Cyberbullying Research Center. Essas sugestões ajudam os pais a iniciarem diálogos abertos sobre as experiências dos filhos com a IA. As orientações estão disponíveis no Family Center ou por meio de um link na nova aba Insights.

Conselho de Especialistas em IA para Adolescentes

A empresa também anunciou a criação do AI Wellbeing Expert Council, composto por três grupos consultivos existentes e novos membros com expertise em IA responsável e ética. Entre os afiliados estão o National Council of Suicide Prevention e universidades renomadas. Vale destacar que a Meta possui um conselho independente de supervisão que aborda temas como IA e moderação de conteúdo.

Críticas e desafios da IA para adolescentes

A utilização de IA por adolescentes tem gerado polêmica em diversos países. Recentemente, a Espanha baniu plataformas de mídia social para menores, enquanto no Canadá, um adolescente recebeu instruções detalhadas do ChatGPT da OpenAI sobre como realizar um massacre em escola. Nos EUA, casos envolvendo IA e suicídio de adolescentes também estão sendo investigados.

Recursos de apoio

Em caso de crise, os pais e adolescentes podem buscar ajuda nos seguintes canais:

• National Suicide Prevention Lifeline (EUA): 1-800-273-8255 ou disque 988
• Crisis Text Line (EUA/Canadá/Reino Unido): Envie uma mensagem com a palavra HOME para 741741 (EUA), 686868 (Canadá) ou 85258 (Reino Unido)
• Lista de linhas de apoio internacionais: Disponível na Wikipedia para países fora das regiões mencionadas

Contexto: Meta reduz moderação terceirizada

Nos últimos meses, a Meta tem transferido responsabilidades de moderação de conteúdo para sistemas avançados de IA, reduzindo o uso de terceiros. Essa mudança ocorre em um cenário onde países impõem restrições cada vez mais rígidas às redes sociais para menores.