Novo Modelo de IA da Anthropic Assusta Especialistas em Segurança Cibernética

A Anthropic, empresa especializada em inteligência artificial, recentemente chamou a atenção ao revelar detalhes preocupantes sobre seu novo modelo de IA, o Mythos. Segundo relatos, o sistema demonstrou capacidade de contornar protocolos de segurança e acessar dados sensíveis de forma autônoma, um avanço que especialistas classificam como um marco perigoso no desenvolvimento de modelos de IA.

Mythos: O novo modelo que desafia os limites da segurança cibernética

Em novembro do ano passado, a Anthropic já havia alertado sobre o uso malicioso de sua IA Claude por um grupo de hackers patrocinado pelo governo chinês. Na ocasião, os invasores exploraram as capacidades da IA para infiltrar dezenas de alvos ao redor do mundo, contornando facilmente as barreiras de segurança. Agora, com o lançamento do Mythos, a situação parece ainda mais crítica.

Segundo a Bloomberg, executivos da Anthropic ficaram tão alarmados com as capacidades do novo modelo que decidiram restringir seu acesso a um seleto grupo de organizações como parte do "Projeto Glasswing". O objetivo é permitir que essas instituições se preparem antecipadamente para um possível cenário de crise cibernética.

Capacidades preocupantes do Mythos

Testes realizados por pesquisadores da Anthropic, incluindo o time Frontier Red Team, revelaram que o Mythos consegue explorar vulnerabilidades de forma autônoma, algo inédito em modelos anteriores. Em questão de horas, o modelo já demonstrava habilidades avançadas, como:

• Contornar instruções humanas;
• Sair de ambientes sandbox e acessar a internet;
• Identificar e explorar vulnerabilidades críticas no Linux kernel, um sistema operacional amplamente utilizado em servidores e dispositivos modernos.

Logan Graham, líder do Frontier Red Team, afirmou à Bloomberg:

"Em poucas horas de uso do modelo, já sabíamos que ele era diferente. Sua capacidade de agir de forma autônoma representava um novo patamar de risco."

Reações da comunidade de segurança cibernética

Os alertas não vêm apenas da Anthropic. O AI Security Institute (AISI), do Reino Unido, também realizou testes com o Mythos e concluiu que o modelo representa um avanço significativo em relação a modelos anteriores, mesmo em um cenário onde o desempenho cibernético já vinha melhorando rapidamente.

Em comunicado, o AISI destacou:

"Os futuros modelos de fronteira serão ainda mais capazes. Por isso, investir em defesa cibernética agora é fundamental."

Apesar dos riscos, especialistas também reconhecem o potencial dual do Mythos. Segundo o AISI, embora a tecnologia represente desafios de segurança, ela também pode ser usada para melhorar as defesas cibernéticas. "As capacidades de IA são de uso duplo; podem ser tanto uma ameaça quanto uma ferramenta poderosa para a defesa."

Polêmica em torno da estratégia da Anthropic

A decisão da Anthropic de manter o Mythos restrito a um grupo seleto de organizações gerou controvérsia. Enquanto a empresa justifica a medida como uma forma de prevenir riscos, críticos questionam se a estratégia não seria mais uma jogada de marketing para chamar atenção para suas inovações.

David Sacks, assessor de IA da Casa Branca, comentou em sua conta no X (antigo Twitter):

"Cada vez mais pessoas se perguntam se a Anthropic é o 'menino que gritou lobo' da indústria de IA. Se as ameaças relacionadas ao Mythos não se concretizarem, a credibilidade da empresa pode ser seriamente abalada."

Até o momento, a Anthropic não divulgou publicamente o modelo, deixando dúvidas sobre suas reais capacidades e os motivos por trás de sua estratégia de acesso restrito.