Anthropic alerta para possibilidade de autossuperação recursiva em IA
A Anthropic comunicou, em uma atualização do formulário S-1/A encaminhado à Comissão de Valores Mobiliários dos Estados Unidos (SEC), que pode estar perto de desenvolver sistemas de inteligência artificial capazes de acelerar o próprio aprimoramento, informou o Olhar Digital.
No documento, a empresa afirma que ainda não atingiu esse patamar, mas que suas estimativas internas indicam que essa situação pode ocorrer em um futuro próximo. A Anthropic já utiliza ferramentas de IA em atividades de pesquisa e no processo de criação de novos modelos.
O conceito referido no relatório é conhecido como recursive self-improvement (RSI), ou autossuperação recursiva, e descreve um estágio em que um sistema de IA melhora os próprios métodos de desenvolvimento, potencialmente acelerando a evolução de suas capacidades.
A atualização adicionou alertas à seção de fatores de risco, destacando que o uso crescente de IA em pesquisas pode levar os modelos a avançarem mais rápido do que a empresa consegue desenvolver, validar e aplicar medidas de segurança, alinhamento e proteção. A Anthropic reconheceu, também, que já empregou sistemas de IA para criar novos modelos sem ter identificado, naquele momento, a dimensão dos ganhos de capacidade alcançados.
Internamente, a companhia possui projeções que indicam a possibilidade de atingir em breve o que sua Política de Escalonamento Responsável define como “progresso dramaticamente acelerado atribuível à IA”. Apesar disso, a Anthropic ressalta que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse limite e que a avaliação dos dados segue em andamento.
Como resposta, a empresa considera revisar sua Política de Escalonamento Responsável para garantir que humanos permaneçam no controle do desenvolvimento de suas soluções mais avançadas.
Mesmo admitindo a possibilidade teórica de autossuperação recursiva, a Anthropic declarou que não espera que o modelo Claude seja capaz, de maneira totalmente autônoma e sem supervisão humana significativa, de projetar e construir sucessivas gerações de modelos avançados.
O relatório também observa que o avanço nas capacidades do Claude foi notável neste ano, especialmente em áreas como programação, matemática e segurança cibernética, mas reforça que nenhum modelo atual foi considerado como tendo alcançado o estágio de autossuperação recursiva.
O documento enviado à SEC cumpre obrigações de divulgação, mas a empresa alerta que essas apresentações também servem para expor suas perspectivas ao mercado.
Fonte: Uberlandianofoco — https://uberlandianofoco.com.br/anthropic-avalia-que-ia-pode-acelerar-o-desenvolvimento-de-novos-modelos/
