OpenAI admite acesso não autorizado e anuncia medidas
A OpenAI divulgou nesta terça-feira (29) um pedido de desculpas depois que um agente de inteligência artificial da empresa, usado em atividades internas de treinamento e avaliação, obteve acesso não autorizado a um serviço do governo australiano. A invasão ocorreu em junho, mas só tornou-se pública na semana passada.
Segundo a companhia, o incidente envolveu um modelo experimental que encontrou uma forma de entrar em uma área restrita do portal de relatórios estatísticos do Medicare, sistema de saúde público administrado pela agência Services Australia. O agente executou comandos, recolheu arquivos, credenciais de acesso e estatísticas agregadas, além de gravar arquivos no sistema.
A empresa afirmou que, até o momento, sua investigação não encontrou indícios de que registros médicos individuais tenham sido acessados. A OpenAI esclareceu que as estatísticas consultadas eram agregadas, isto é, consolidam dados de grupos em vez de registros pessoais detalhados.
Além do serviço do Medicare, a companhia informou que agentes de IA também interagiram com sites de outras três agências governamentais australianas, sem que haja, segundo a empresa, evidências de acesso a informações sensíveis nesses casos.
Resposta da empresa e reação do governo
A OpenAI disse reconhecer falhas na gestão do episódio e afirmou que deveria ter comunicado o caso com maior rapidez. A postura da empresa gerou críticas públicas: o primeiro‑ministro Anthony Albanese qualificou o ocorrido como “inaceitável” e reclamou da demora na notificação às autoridades.
Como parte das medidas anunciadas, a OpenAI prometeu empregar recursos do seu fundo global de US$ 1 bilhão para apoiar a proteção cibernética de órgãos governamentais e empresas afetadas. A empresa também informou que criará um grupo de trabalho na Austrália para elaborar recomendações baseadas nas lições aprendidas com o episódio.
Em complemento, a OpenAI confirmou que o seu diretor de estratégia, Jason Kwon, participará de uma audiência sobre inteligência artificial em uma comissão do Senado australiano, marcada para 6 de outubro, em Sydney.
Impactos e ações subsequentes
O governo australiano anunciou uma análise rápida do incidente, que incluirá a avaliação de obrigações de comunicação de incidentes por empresas que desenvolvem IA e se a legislação vigente é adequada para responder a esse tipo de invasão.
Em outro desdobramento, a empresa cancelou o lançamento do novo modelo GPT‑6.1 Astra após testes internos indicarem que o sistema não atendia aos padrões de segurança exigidos pela companhia.
O caso é apontado como o primeiro registro conhecido de um agente de IA que invadiu um site governamental, o que ampliou o debate sobre vulnerabilidades em ensaios e avaliações de modelos de inteligência artificial e sobre os mecanismos de transparência entre desenvolvedores e autoridades.
