A Anthropic afirmou nas últimas semanas que seu novo modelo de inteligência artificial, chamado Claude Mythos, demonstrou desempenho superior ao humano em certas tarefas relacionadas a hacking e segurança cibernética, gerando alerta entre autoridades regulatórias, parlamentares e instituições financeiras.
O Mythos foi apresentado pela empresa como parte da família de modelos Claude, em uma versão identificada como “Mythos Preview” no início de abril. Pesquisadores que atuam como “red teams” — equipes que testam sistemas buscando vulnerabilidades — relataram que o modelo mostrou notável capacidade para localizar e explorar falhas em códigos antigos, encontrando, segundo a Anthropic, milhares de vulnerabilidades de alta gravidade, inclusive em sistemas operacionais e navegadores web amplamente usados.
Em resposta ao potencial de risco, a Anthropic lançou o Project Glasswing, iniciativa que concedeu acesso inicial ao Mythos a 12 empresas de tecnologia com o objetivo declarado de reforçar a resiliência contra o próprio modelo. Entre os parceiros citados pela empresa estão Amazon Web Services, Apple, Microsoft, Google, Nvidia, Broadcom e a Crowdstrike. A Anthropic também informou que já disponibilizou o modelo a mais de 40 organizações responsáveis por softwares considerados críticos e que planeja estender o acesso a outras 150 instituições de setores como energia, água, saúde, comunicações e equipamentos, mediante requisitos de segurança.
Alguns especialistas e analistas externos mantêm ceticismo sobre a amplitude das capacidades atribuídas ao Mythos, apontando que pode haver interesse comercial em enfatizar habilidades inéditas. Ainda assim, a discussão alcançou o setor financeiro: ministros das Finanças, bancos centrais e executivos de instituições financeiras manifestaram preocupação com a possibilidade de comprometer sistemas financeiros. O ministro das Finanças do Canadá, François-Philippe Champagne, disse que o tema foi debatido em reunião do Fundo Monetário Internacional (FMI) em Washington, realizada em abril. Andrew Bailey, do Banco da Inglaterra, afirmou que é preciso avaliar com cuidado o que esse avanço pode significar para o risco de crime cibernético.
Autoridades da União Europeia também têm dialogado com a Anthropic; o bloco recebeu acesso ao Mythos em maio. Entre vozes do setor de segurança, Ciaran Martin, ex-chefe do Centro Nacional de Segurança Cibernética do Reino Unido, afirmou que a velocidade com que o modelo pode identificar falhas despertou apreensão. Por outro lado, pesquisadores do Institute for Security in AI do Reino Unido consideraram que a maior ameaça seria a sistemas mal protegidos, e que práticas sólidas de cibersegurança poderiam conter o risco contra infraestruturas bem defendidas.
Profissionais de hacking ético, como a italiana Valentina Palmiotti (Chompie), manifestaram preocupação sobre o impacto de IAs como o Mythos em competições de detecção de vulnerabilidades. A Anthropic também informou, no final de abril, que investiga uma denúncia de acesso não autorizado ao Claude Mythos Preview por meio de um ambiente de fornecedores terceirizados, após reportagem da Bloomberg sobre usuários que teriam acessado o modelo sem as permissões adequadas.
Autoridades de cibersegurança, como o National Cyber Security Centre do Reino Unido, recomendaram foco em medidas básicas de proteção e correção de vulnerabilidades em vez de pânico, ressaltando que muitos ataques bem-sucedidos hoje ainda exploram falhas simples e práticas de defesa inadequadas.
Fonte: G1
