A OpenAI anunciou, na sexta-feira (07), a suspensão das atividades internas relacionadas ao Astra, um modelo de inteligência artificial ainda em desenvolvimento. A paralisação foi decidida após avaliações internas e análises de especialistas indicarem avanços relevantes nas capacidades de programação autônoma e em tarefas de cibersegurança do sistema.
Motivo da suspensão
Segundo a empresa, as revisões não permitiram descartar a possibilidade de que o Astra alcance um nível crítico de capacidade ofensiva digital. As análises apontaram que o modelo poderia se aproximar dos critérios de risco definidos no framework de preparação da OpenAI, o que motivou a interrupção temporária das atividades.
A principal preocupação envolve a capacidade de sistemas realizarem, sem supervisão humana, tarefas complexas relacionadas à segurança digital. Pelos critérios da OpenAI, uma inteligência artificial passa a ser classificada como de capacidade cibernética crítica se for capaz de identificar e desenvolver vulnerabilidades inéditas em sistemas reais protegidos, sem auxílio humano, ou de conceber estratégias completas de ataque contra alvos reforçados a partir de objetivos gerais.
A empresa ressaltou que a avaliação não indica que o Astra tenha executado ataques ou explorado falhas em sistemas externos. A OpenAI afirmou também que o modelo em desenvolvimento não teve participação no incidente envolvendo a plataforma Hugging Face mencionado em avaliações anteriores.
Novas medidas de segurança
Em resposta ao alerta, a OpenAI informou que vai ampliar as exigências de segurança aplicadas a modelos mais avançados e às atividades relacionadas a eles. Entre as ações previstas estão a adoção de mecanismos de controle mais rigorosos e a implementação de um monitoramento amplo para identificar ações consideradas arriscadas e sinais de desalinhamento em aplicações baseadas em agentes de IA.
De acordo com a empresa, a avaliação interna sobre o Astra fundamentou a decisão de interromper temporariamente o desenvolvimento do modelo até que novos padrões de segurança sejam aplicados. O caso reacende o debate sobre como conciliar o avanço de sistemas mais potentes com a criação de salvaguardas capazes de limitar usos perigosos da tecnologia.
Fonte: Uberlandianofoco
