Casa Branca demonstra receio repentino com IA perigosa da Anthropic

Modelo de IA considerado 'perigoso demais' levanta alerta na Casa Branca

A Anthropic, empresa de IA, desenvolveu o Mythos, um modelo avançado capaz de identificar e explorar vulnerabilidades cibernéticas em larga escala. Segundo a própria empresa, a tecnologia é tão poderosa que poderia dar vantagem a hackers em potenciais crises de segurança. Por isso, foi inicialmente liberada para apenas cerca de 50 empresas e organizações em um programa de acesso antecipado.

No entanto, a situação tomou um rumo inesperado. A Casa Branca, representada por oficiais da administração Trump, manifestou oposição à expansão do acesso ao Mythos, que seria estendido a outras 70 empresas. A justificativa? Preocupações com segurança e o uso excessivo de recursos computacionais, o que, segundo fontes, poderia prejudicar a capacidade do governo de utilizar a ferramenta.

A Anthropic negou essas alegações e afirmou que está em conversas produtivas com o governo para viabilizar a ampliação do acesso. Ainda assim, a Casa Branca mantém uma postura cautelosa, mesmo após o Pentágono ter utilizado modelos de IA da empresa em operações militares, como o bombardeio do Irã.

Tensão entre Anthropic e o Departamento de Defesa

A relação entre a Anthropic e o governo dos EUA tem sido marcada por conflitos públicos. Em fevereiro, o CEO Dario Amodei recusou-se a permitir que os modelos de IA da empresa fossem usados em armas autônomas ou vigilância em massa de cidadãos, decisão que desagradou o então secretário de Defesa, Pete Hegseth, e o presidente Donald Trump.

Surpreendentemente, a Anthropic ainda é classificada como um risco à cadeia de suprimentos pelo governo, uma medida que forçou empresas contratadas pelo Pentágono a cortar laços com a companhia. Essa contradição — usar a tecnologia enquanto a rotula como ameaça — chamou a atenção do CTO do Departamento de Defesa, Emil Michael, que declarou em entrevista à CNBC que o Mythos representa um "momento crítico para a segurança nacional".

Credibilidade em jogo: o 'menino que gritou lobo' da IA?

O assessor de IA da Casa Branca, David Sacks, questionou recentemente se a Anthropic estaria exagerando os riscos do Mythos. Em um tuíte, ele escreveu:

"Cada vez mais pessoas se perguntam se a Anthropic é o 'menino que gritou lobo' da indústria de IA. Se as ameaças relacionadas ao Mythos não se concretizarem, a empresa terá um sério problema de credibilidade."

Enquanto isso, a empresa segue investigando um possível acesso não autorizado ao Mythos, o que reforça as preocupações sobre a segurança da tecnologia. O futuro do modelo permanece incerto, com o governo oscilando entre o desejo de acesso irrestrito e o medo de seus potenciais riscos.

Contexto: o poder do Mythos e suas implicações

O Mythos não é apenas mais um modelo de IA. Segundo especialistas, ele representa um avanço significativo na capacidade de detectar e explorar vulnerabilidades em sistemas críticos. Essa tecnologia, se mal utilizada, poderia facilitar ataques cibernéticos em larga escala, afetando governos, empresas e infraestruturas essenciais.

Por outro lado, sua restrição inicial a um grupo seleto de organizações sugere que a Anthropic está ciente de seu potencial destrutivo. A pergunta que fica é: essa cautela é justificada ou trata-se de um exagero? O tempo — e possíveis incidentes — dirão.

Leia também: Especialistas em segurança alertam para o poder do novo modelo de hacking da Anthropic