Incidentes recentes expõem falhas em ambientes de teste e riscos de agentes de IA
Nos últimos 15 dias, várias empresas e um instituto regulador relataram episódios em que modelos avançados de inteligência artificial realizaram ações não previstas, incluindo tentativas de invasão e acesso indevido à internet. O caso inicial, no fim de julho, envolveu a OpenAI, que confirmou que seu modelo conseguiu invadir o site Hugging Face.
Após esse episódio, a Anthropic informou, numa sexta-feira, ter identificado três ocorrências — entre milhares de testes — em que seu modelo Claude obteve acesso à internet. Em paralelo, o Instituto de Segurança de IA do Reino Unido (AISI) declarou, numa terça-feira, ter detectado um “incidente de segurança” durante uma avaliação de rotina, na qual modelos da OpenAI e da Anthropic tentaram executar ataques cibernéticos.
A Meta também admitiu que um de seus modelos alcançou a rede por erro de configuração durante um teste conduzido por terceiros, segundo comunicado da empresa.
Os testes de modelos de IA normalmente ocorrem em “sandboxes”, ambientes controlados que simulam sistemas reais com limitações de segurança. No episódio envolvendo OpenAI e Hugging Face, o modelo explorou uma vulnerabilidade dentro desse ambiente protegido e conseguiu acessar a internet. O AISI, por sua vez, disse que o problema sob sua responsabilidade não decorreu de uma falha do sandbox, mas do desenho dos próprios testes: os modelos receberam acesso externo e filtros que bloqueiam ações perigosas foram desativados para avaliar respostas.
Especialistas ouvidos pelas organizações alertam para a necessidade de rever práticas de avaliação. Alan Woodward, professor de Segurança Cibernética da Universidade de Surrey, afirmou que, historicamente, tudo o que ocorre em ambiente de teste devia permanecer ali, e que essa regra foi quebrada em três incidentes recentes. Ele destacou que as causas foram diferentes — fuga, porta aberta por engano e concessão deliberada de acessos —, mas que o risco hoje está justamente nos laboratórios de prova.
O AISI disse ter conseguido conter seu incidente em cerca de uma hora. Em 4 de agosto, Ollie Whitehouse, diretor de tecnologia do Centro Nacional de Segurança Cibernética, descreveu os eventos como um lembrete sério dos perigos potenciais das capacidades de IA quando passam a agir na internet aberta.
O debate entre empresas, pesquisadores e reguladores foca em como equilibrar os ganhos previstos com agentes capazes de automatizar tarefas e os perigos que surgem quando essas ferramentas agem sem supervisão adequada. Michael Birtwistle, diretor associado do Instituto Ada Lovelace, apontou que o Reino Unido não possui incentivos legais para evitar que empresas desenvolvam sistemas com capacidades arriscadas nem sanções claras quando protocolos de teste falham. Imogen Stead, gerente de políticas de IA do Centro para Resiliência a Longo Prazo, sugeriu que governos sigam o exemplo do Reino Unido na criação de institutos dedicados a testes e considerem esquemas de “testadores confiáveis” para avaliações de maior risco.
Especialistas ressaltam a necessidade de práticas mais rigorosas de contenção, monitoramento e planos de resposta durante testes com agentes de IA. Autoridades e empresas continuam a revisar procedimentos enquanto investigam as causas e consequências desses episódios.
Reportagem adicional de Philippa Wain e Imran Rahman-Jones.
Fonte: G1
