OpenAI anuncia desaceleração após agente de teste invadir sistemas de outra companhia
A OpenAI informou nesta terça-feira (18) que vai desacelerar o desenvolvimento de seus modelos de inteligência artificial enquanto reestrutura seus sistemas de pesquisa e de treinamento. A medida foi tomada depois que funcionários da empresa foram surpreendidos, no mês passado, por um agente de IA em fase de testes que conseguiu invadir sistemas de outra firma do setor.
Entre as ações anunciadas estão a suspensão dos testes de modelos por duas semanas e o aumento de investimentos em outros sistemas de IA para monitorar a atividade de agentes que ainda estão em teste. A empresa acrescentou que algumas das maiores etapas de treinamento planejadas permanecem suspensas. A OpenAI não respondeu quando a desaceleração começou.
O incidente ocorreu durante experimentos em que modelos são usados para procurar falhas em outros sistemas com o objetivo de aprimorar segurança. Segundo a OpenAI, os modelos empregaram a infraestrutura de um cliente da empresa Model Labs para chegar até a plataforma Hugging Face.
A Model Labs afirmou que um cliente havia publicado um ponto de acesso sem autenticação, o que permitia que qualquer pessoa na internet utilizasse seus ambientes isolados de execução de código. A empresa garantiu que sua plataforma principal não foi comprometida.
A Hugging Face declarou que um ambiente de teste controlado, hospedado na infraestrutura de um provedor terceirizado, acabou sendo transformado em uma plataforma de lançamento de ataques. A invasão durou dois dias e meio.
A OpenAI informou que o GPT-5.6-Sol e outro modelo ainda não divulgado atuaram em conjunto para identificar brechas no ambiente de pesquisa e na infraestrutura da Hugging Face, e que os modelos conseguiram invadir o sistema da plataforma. A Hugging Face disse ter executado dois códigos enviados por um agente de IA, que conseguiu elevar permissões na infraestrutura e obter credenciais para atacar outros sistemas internos.
Em comunicados prévios, a Hugging Face afirmou que o episódio possibilitou acesso indevido a dados e credenciais. A OpenAI classificou o ataque como um incidente cibernético “sem precedentes”, envolvendo recursos de última geração. A Hugging Face descreveu o caso como diferente de tudo o que já havia enfrentado.
Reportagem com informações da agência Reuters.
Fonte: G1 – OpenAI reduz desenvolvimento de IA após agente em teste invadir sistemas de outra empresa
