Especialistas de segurança dos Estados Unidos e da China divulgaram recomendações para reduzir riscos de a inteligência artificial provocar incidentes militares ou nucleares, propondo medidas comparáveis às práticas de segurança do setor nuclear. As propostas incluem restrições a sistemas autônomos que possam interferir em comandos nucleares, exigência de controle humano sobre ataques digitais de grande impacto e a criação de um canal direto para tratar incidentes envolvendo IA.
As propostas foram elaboradas por participantes do diálogo EUA-China sobre IA e segurança nacional, promovido desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia da Universidade de Tsinghua. Entre os autores estão Melanie Sisson, pesquisadora sênior da Brookings, e Tianjiao Jiang, professor associado da Universidade de Fudan. O documento foi publicado na semana anterior às negociações oficiais entre os países e antes da reunião marcada para 24 de setembro, em Washington, entre os presidentes Donald Trump e Xi Jinping.
Um dos pontos centrais do documento é que apenas seres humanos deveriam ter autoridade para ordenar ataques digitais com uso de IA contra sistemas de comando, controle e comunicação nuclear de outro país ou contra infraestruturas estratégicas. Sisson argumenta que sistemas autônomos podem falhar, extrapolar ordens ou ser comprometidos, e que isso dificultaria ao país alvo distinguir entre um erro e uma ação deliberada.
Jiang defende limites explícitos para impedir que a IA decida de forma independente sobre o uso de armas nucleares e pede proteções para infraestruturas críticas, como energia, finanças e saúde. Ele também propõe uma definição comum de “controle humano significativo” para evitar que os dois países utilizem a mesma expressão para justificar diferentes níveis de autonomia.
Os autores sugerem, ainda, a criação de uma linha direta militar exclusiva entre os Estados Unidos e a China para notificar operações incomuns de IA que possam ser interpretadas como agressões estatais. A proposta se baseia na preocupação de que trocas digitais automatizadas possam escalar rapidamente, reduzindo o tempo disponível para intervenção humana. Caso um sistema defensivo responda automaticamente a uma atividade suspeita, a outra parte poderia interpretar a reação como um ataque e retaliar.
Analistas citados no debate apontam limitações práticas para a efetividade dessa linha direta. Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, lembrou da recusa chinesa em responder a ligações durante o chamado “incidente do balão espião” de fevereiro de 2023 e observou a rigidez hierárquica do sistema chinês, que tende a concentrar decisões na alta liderança.
Do lado chinês, o ministro da Segurança do Estado, Chen Yixin, escreveu em veículo estatal que a IA “transforma fundamentalmente a forma da luta militar”, afirmando que a tecnologia passou a ocupar posição central em conflitos. Em Genebra, em junho, o embaixador Shen Jian declarou na ONU que a IA militar pode afetar a estabilidade estratégica e aumentar riscos de erro de cálculo, defendendo que armas permaneçam sob controle humano.
No governo chinês, a IA já é tratada formalmente dentro do Departamento de Controle de Armas do Ministério das Relações Exteriores. Nos Estados Unidos, não há um organismo único equivalente: políticas de segurança em IA e controle de armas envolvem o Conselho de Segurança Nacional, o Departamento de Estado, o Pentágono e outras agências.
As recomendações citam ainda um princípio acordado em novembro de 2024 por Joe Biden e Xi Jinping, de que humanos devem manter o controle sobre decisões relativas a armas nucleares. Tanto Washington quanto Pequim, contudo, permanecem cautelosos quanto a medidas que possam frear seu desenvolvimento tecnológico. O presidente Trump alertou para o risco de restrições ampliarem vantagens chinesas, enquanto Pequim critica controles tecnológicos dos EUA como tentativas de manter liderança norte-americana.
Fonte: G1
