IA autônoma ainda não domina empresas: promessas de Anthropic não se concretizam

Promessa não cumprida: IA autônoma ainda não domina empresas

Há exatamente um ano, Jason Clinton, diretor de segurança da informação da Anthropic, fez uma previsão ousada: até 2025, funcionários baseados em IA começariam a operar nos sistemas de grandes empresas ao redor do mundo. Em entrevista à Axios, Clinton descreveu esses agentes de IA como entidades com "memórias" próprias, funções especializadas, números de identificação e credenciais de acesso.

"Nesse cenário, há inúmeros problemas de segurança que ainda não resolvemos e precisamos enfrentar."
Jason Clinton, CISO da Anthropic

A previsão de Clinton não apenas serviu como alerta para o setor de segurança da informação, mas também se mostrou equivocada. Ao longo do último ano, o que se viu foi uma série de falhas críticas e iniciativas sem propósito no desenvolvimento de IA autônoma, também chamada de agentic AI.

Resultados aquém das expectativas

Um estudo recente argumenta que agentes de IA nunca serão ferramentas confiáveis ou precisas. Caso essa análise esteja correta, o impacto econômico prometido por esses sistemas foi e continua sendo superestimado. Além disso, iniciativas como a de Clinton seguem um padrão recorrente na Anthropic.

Em março de 2024, o CEO Dario Amodei previu que, em seis meses, a IA escreveria 90% do código. No entanto, pesquisas posteriores revelaram que ferramentas de IA para programação, na verdade, atrasam engenheiros de software devido à baixa qualidade de suas saídas.

Interesses financeiros por trás das previsões

Diante dos incentivos financeiros para manter o hype em torno da IA, é evidente que executivos do setor não são mensageiros imparciais, mas sim estrategistas de relações públicas tentando sustentar um mercado supervalorizado. Enquanto isso, investimentos bilionários ainda não geraram os retornos prometidos.

Outros problemas da Anthropic

A empresa já enfrentou críticas por rastrear linguagem vulgar de usuários do Claude, classificando-a como "negativa". Esses episódios reforçam questionamentos sobre a transparência e ética da Anthropic no desenvolvimento de suas tecnologias.