Meta usa IA para detectar crianças com menos de 13 anos no Facebook e Instagram

Meta implementa análise de estrutura óssea para identificar crianças nas redes sociais

A Meta, empresa controladora do Facebook e Instagram, anunciou recentemente uma nova ferramenta de inteligência artificial para detectar e remover automaticamente usuários menores de 13 anos de suas plataformas. A tecnologia, que não utiliza reconhecimento facial, analisa fotos e vídeos em busca de "pistas visuais gerais", incluindo altura e estrutura óssea.

Em um postagem no blog oficial publicado na terça-feira (11), a empresa esclareceu que o sistema não identifica pessoas específicas nas imagens. "Queremos deixar claro: isso não é reconhecimento facial", afirmou a Meta. A ferramenta faz parte de um esforço contínuo para reforçar a segurança infantil e cumprir regulamentações que proíbem o uso de suas plataformas por crianças menores de 13 anos.

Como a IA funciona?

A nova tecnologia da Meta analisa não apenas imagens e vídeos, mas também publicações, comentários, biografias e legendas em busca de "pistas contextuais" que possam indicar a presença de crianças. O objetivo é identificar automaticamente perfis que violam as políticas de idade mínima, permitindo que a empresa tome medidas como remoção de contas ou restrição de acesso.

Segundo a empresa, a abordagem evita a coleta de dados biométricos sensíveis, priorizando a privacidade dos usuários. "Não identificamos pessoas específicas nas imagens", reforçou a Meta. A ferramenta foi projetada para ser menos invasiva do que métodos tradicionais de reconhecimento facial, focando em características gerais que não permitem a identificação individual.

Impacto e críticas

A implementação dessa tecnologia levanta discussões sobre privacidade e segurança infantil. Embora a Meta afirme que a ferramenta não viola a privacidade dos usuários, especialistas em proteção de dados questionam a eficácia e os possíveis riscos de falsos positivos. Crianças que não se enquadram nos padrões de altura ou estrutura óssea analisados pela IA podem ser erroneamente identificadas ou não detectadas.

Além disso, a abordagem da Meta contrasta com outras plataformas que optam por métodos mais diretos, como a solicitação de documentos de identificação para verificar a idade dos usuários. A empresa não divulgou detalhes técnicos sobre como a IA diferencia crianças de adultos com base em características físicas, o que pode gerar incertezas sobre a precisão do sistema.

Meta reforça compromisso com segurança infantil

Em comunicado, a Meta destacou que a nova ferramenta é apenas uma das várias iniciativas para proteger crianças nas redes sociais. A empresa afirmou que investe constantemente em tecnologias para identificar e remover conteúdos inadequados, além de colaborar com organizações especializadas em segurança infantil.

No entanto, críticos argumentam que a Meta poderia fazer mais para prevenir o acesso de crianças às suas plataformas, como melhorar os sistemas de verificação de idade ou implementar medidas mais transparentes. A empresa não anunciou se a ferramenta será expandida para outras plataformas ou regiões além dos Estados Unidos, onde o sistema foi inicialmente lançado.

Leia também: The Verge (fonte original da notícia).