Projeto de lei nos EUA pode impor verificação de identidade online para uso de IA por menores

Senadores avançam com projeto que pode impor verificações de identidade online para uso de IA por menores

O projeto de lei GUARD Act (Guidelines for User Age-verification and Responsible Dialogue), proposto pelo senador republicano Josh Hawley e co-patrocinado pelo democrata Richard Blumenthal, avançou na semana passada na comissão de Justiça do Senado dos Estados Unidos. A proposta, que exige verificação de idade para o uso de chatbots de IA, foi descrita por Jibran Ludwig, da organização Fight for the Future, como "um cavalo de Troia para verificações de identidade online universais".

Segundo o texto, qualquer pessoa que utilize um assistente virtual de IA deverá apresentar comprovação de idade. Além disso, menores de 18 anos seriam proibidos de interagir com diversos tipos de chatbots de IA. Diferentemente de outras propostas de verificação de idade em redes sociais, o GUARD Act não oferece aos pais a opção de optar por não aplicar as regras federais sobre o uso de tecnologia por seus filhos.

Apesar de críticas sobre privacidade e possíveis consequências negativas para os jovens, a proposta foi aprovada na comissão. Segundo o jornal The Hill, o projeto "passou facilmente na comissão", embora alguns senadores tenham manifestado reservas. O senador Alex Padilla (D-Califórnia), que votou a favor, destacou preocupações com "riscos potenciais de privacidade e segurança" na verificação de idade, sugerindo que o mecanismo pode precisar de ajustes. Já o senador Ted Cruz (R-Texas), que apoia projetos de segurança online para crianças, afirmou que votaria a favor, mas ressaltou a necessidade de "algumas revisões".

Cruz demonstrou preocupação com a possibilidade de o projeto banir completamente o uso de chatbots de IA para menores, ignorando seus potenciais benefícios. Em resposta, Hawley esclareceu que o GUARD Act não proíbe todos os chatbots de IA para menores, mas sim impede que esses sistemas "empurrem conteúdo sexualmente explícito para menores" ou incentivem autolesão ou suicídio. No entanto, especialistas consideram essa justificativa desonesta, já que o projeto vai muito além dessas restrições.

O que o GUARD Act realmente propõe?

O projeto define um companheiro de IA como qualquer sistema que:

• Forneça respostas adaptativas e semelhantes às humanas às interações do usuário;
• Seja projetado para incentivar ou facilitar a simulação de interações interpessoais, amizade, companhia ou comunicação terapêutica.

Com base nessa definição, as empresas de IA seriam obrigadas a proibir menores de 18 anos de acessar ou usar qualquer companheiro de IA. Isso inclui não apenas conversas sobre temas sensíveis, mas também interações consideradas inofensivas ou até benéficas, como:

• Uso de tutores online;
• Prática de idiomas estrangeiros;
• Desenvolvimento de habilidades diversas.

Além disso, a definição ampla de "companheiro de IA" poderia abranger até mesmo chatbots que adotam um tom amigável ou familiar, restringindo ainda mais o acesso de jovens a essas ferramentas.

Riscos e críticas ao projeto

Críticos argumentam que o GUARD Act representa um excesso de controle governamental sobre o uso de tecnologia por crianças e adolescentes. Entre os principais pontos de preocupação estão:

• Privacidade: A obrigatoriedade de verificação de identidade poderia expor dados sensíveis de menores a riscos de vazamento ou uso indevido;
• Restrição excessiva: A proibição ampla de chatbots de IA para menores ignora benefícios potenciais, como suporte emocional, aprendizado e desenvolvimento de habilidades;
• Falta de opção aos pais: Diferentemente de outras propostas, o projeto não permite que os responsáveis optem por não aplicar as regras federais sobre o uso de tecnologia por seus filhos.

"O GUARD Act não apenas impõe verificações de identidade universais, mas também restringe o acesso de jovens a ferramentas que poderiam ser benéficas para seu desenvolvimento e bem-estar emocional."

Próximos passos

Embora o projeto tenha avançado na comissão, ainda precisa ser debatido e votado pelo Senado como um todo. Senadores como Padilla e Cruz já sinalizaram a necessidade de revisões antes de uma eventual aprovação final. Enquanto isso, organizações da sociedade civil e especialistas em tecnologia continuam pressionando por alterações no texto para evitar danos aos direitos e liberdades dos jovens.