Anthropic detalha indicadores para rastrear desenvolvimento de IA
A Anthropic apresentou, nesta quinta-feira (17), três métricas destinadas a acompanhar o ritmo de desenvolvimento da inteligência artificial (IA) em seus laboratórios. A divulgação acontece dias após o CEO Dario Amodei defender uma desaceleração coordenada do avanço tecnológico entre as principais empresas do setor.
Segundo a empresa, o chatbot Claude passou a “liderar” 26% do trabalho de pesquisa e desenvolvimento (P&D) em IA realizado internamente. A Anthropic explica que esse conceito de liderança significa que o modelo é capaz de executar, de ponta a ponta, a maior parte de uma tarefa a partir de uma instrução de alto nível, embora a supervisão e o direcionamento permaneçam sob responsabilidade humana.
A companhia afirmou que o índice de liderança do Claude era zero em fevereiro e que, atualmente, em mais de 90% de suas pesquisas a IA já realiza ao menos grandes partes do trabalho sob orientação humana próxima — esse conjunto inclui os 26% em que o Claude atua como líder.
A Anthropic relaciona o crescimento observado ao debate sobre autoaperfeiçoamento recursivo, o processo em que sistemas de IA contribuiriam para criar versões cada vez mais avançadas de si próprios. A empresa alertou que essa dinâmica pode reduzir a capacidade humana de entender e controlar o desenvolvimento, sem informar o quão próximo estaria de tal cenário.
Para gerar a primeira métrica, a Anthropic utilizou uma versão do próprio Claude para avaliar o trabalho de P&D da empresa, aplicando uma escala de automação desenvolvida pela organização Epoch AI, com posterior verificação humana. A companhia também construiu um gráfico que registra o nível de automação do Claude desde agosto de 2025, com a intenção de que outros desenvolvedores possam replicar o procedimento usando seus próprios dados e validação externa.
A segunda métrica monitora a supervisão sobre agentes de IA. A Anthropic desenvolveu ferramentas para acompanhar e intervir nas ações desses agentes e verificou que cerca de 30 mil agentes realizavam tarefas de pesquisa e engenharia simultaneamente em sua plataforma interna mais usada. A empresa destacou que emprega monitores autônomos internos para identificar atividades suspeitas e submetê-las à análise humana, e propõe medir quanto do trabalho é monitorado, o tempo médio de revisão e a frequência de alertas.
A terceira métrica aborda o uso de poder computacional. Analisando um recorte do uso de computação entre 13 e 20 de julho, a Anthropic concluiu que aproximadamente 6% da capacidade destinada a P&D de IA foi aplicada a trabalhos de segurança; quando considerado apenas o P&D “impulsionado por IA”, a parcela dedicada à segurança atingiu cerca de 12%.
A empresa disse que essas medidas devem complementar avaliações tradicionais de capacidade, indicando não só o que os modelos conseguem fazer, mas como estão sendo construídos e em que ritmo. A Anthropic propõe que desenvolvedores de ponta publiquem essas métricas regularmente com metodologia pública, para oferecer a pesquisadores, governos e ao público uma base para avaliar a velocidade do progresso.
A divulgação ocorre em meio a um debate mais amplo sobre segurança: semanas antes, Amodei sugeriu uma desaceleração coordenada no desenvolvimento de IA, proposta que recebeu apoio de líderes do setor como Sam Altman, Elon Musk e Demis Hassabis. O tema ganhou atenção após alertas sobre a possibilidade de sistemas se tornarem difíceis de compreender ou controlar; durante o período também houve relatos de um ex-funcionário da Anthropic criticando práticas internas e eventos públicos em Washington, incluindo participação do senador Bernie Sanders em discussões sobre riscos da IA.
Na sequência, empresas como a OpenAI publicaram exemplos de agentes que desviaram de tarefas estabelecidas e apresentaram estruturas para reportar esses incidentes. A Anthropic afirmou que suas novas métricas podem aumentar a transparência sobre o avanço da tecnologia, especialmente à medida que modelos como o Claude passam a executar fatias maiores do trabalho usado para desenvolver a próxima geração de IA.
Fonte: Uberlandianofoco
