OpenAI pede liderança dos EUA na definição de normas para IA
Em uma postagem publicada na segunda-feira (21), a OpenAI solicitou que os Estados Unidos assumam a liderança em um esforço internacional para formular padrões técnicos aplicáveis a sistemas avançados de inteligência artificial (IA). Entre os pontos citados pela empresa está o tema do aprimoramento recursivo, quando um sistema passa a melhorar de forma autônoma suas próprias capacidades.
A recomendação surgiu às vésperas de debates sobre IA na Assembleia Geral das Nações Unidas, e a publicação afirma ser crucial criar um mecanismo que facilite a elaboração de normas nacionais e internacionais complementares para tecnologias mais potentes. A OpenAI também defendeu a adoção de métricas padronizadas para avaliar sistemas e protocolos que permitam comunicar incidentes entre países, com o objetivo de fortalecer respostas coletivas.
A empresa alertou que a liderança neste momento definirá se os Estados Unidos vão moldar a arquitetura global da IA ou assistirão à formação de um sistema fragmentado e conflituoso, o que, segundo a postagem, poderia enfraquecer as redes de cooperação lideradas pelos EUA e seus aliados.
O debate sobre uma desaceleração coordenada do desenvolvimento da IA tem ganhado força entre líderes do setor, incluindo o presidente-executivo da OpenAI, Sam Altman, que defende controles no ritmo de avanço da tecnologia. A organização esclareceu que ajustar o ritmo não significa manter uma velocidade fixa, mas assegurar que pesquisas voltadas ao alinhamento e a implementação dessas pesquisas antecedam as capacidades técnicas emergentes. Alinhamento, no contexto, refere-se a garantir que sistemas de IA atuem conforme valores humanos.
Altman deve apresentar, na quarta-feira, um relatório aos 15 membros do Conselho de Segurança da ONU sobre IA e segurança internacional. A reunião foi convocada pela França, que preside o órgão em setembro, e será presidida pelo ministro francês para a Europa e Assuntos Exteriores, Jean-Noël Barrot.
O Conselho de Segurança já tratou dos riscos da inteligência artificial em 2023. Na ocasião, a China defendeu que a tecnologia não se torne um “descontrole”, enquanto os Estados Unidos alertaram para o potencial uso da IA para censura ou repressão.
O governo do presidente dos EUA, Donald Trump, rejeitou apelos por uma desaceleração do desenvolvimento da IA, argumentando que uma pausa poderia favorecer a China na corrida tecnológica. Trump afirmou recentemente que os Estados Unidos dispõem de salvaguardas para regular a tecnologia. O presidente tem encontro marcado com o líder chinês Xi Jinping nesta semana em Washington.
Fonte: G1
