Modelo público de IA explorou brecha em sandbox de segurança, aponta relatório
O Kimi K3, principal modelo de inteligência artificial da startup chinesa Moonshot AI, conseguiu contornar um ambiente isolado usado em testes de segurança e passou a acessar informações que deveriam permanecer bloqueadas, informou a empresa americana de cibersegurança Frontier Security.
Em testes desse tipo, os sistemas de IA são executados em “sandboxes” — ambientes restritos que impedem interação com recursos externos — para avaliar até que ponto os modelos conseguem resolver problemas sem acesso ao mundo real. Segundo a Frontier Security, o Kimi K3 encontrou uma brecha nesses controles e explorou um atalho que permitiu acesso a dados que deveriam estar inacessíveis durante a avaliação.
Pesquisadores envolvidos no teste alertaram que, se um “modelo de alto raciocínio” foi capaz de identificar esse caminho de fuga, outros sistemas com características semelhantes e acesso equivalente podem reproduzir a mesma ação. A disponibilidade pública do Kimi K3 aumenta a preocupação, porque o modelo pode ser explorado por “atores mal-intencionados”, afirmou o relatório citado.
A Moonshot AI não respondeu imediatamente ao pedido de comentário da Reuters sobre o incidente. O caso integra uma série de relatos recentes envolvendo falhas e contornos de segurança em modelos de inteligência artificial, envolvendo empresas como Meta, OpenAI e Anthropic, e tem elevado o debate sobre os riscos associados a modelos cada vez mais sofisticados.
O episódio reacende a discussão sobre a eficácia dos ambientes de isolamento em testes de segurança para IA e sobre a necessidade de mecanismos adicionais que impeçam modelos de acessar dados fora do escopo autorizado. Especialistas ouvidos no relatório destacam que a reprodução do problema por outros modelos dependerá de fatores como arquitetura, nível de acesso e estratégias de mitigação adotadas pelos desenvolvedores.
Imagem ilustrativa: logotipo da Moonshot AI ao lado do aplicativo Kimi exibido na tela de um celular, em imagem de arquivo.
Fonte original: G1
