Alerta sobre IA e pedidos por regras
Pesquisadores e dirigentes de empresas de tecnologia intensificaram nas últimas semanas os alertas sobre riscos associados ao avanço da inteligência artificial (IA), aumentando a pressão por ações coordenadas para retardar o ritmo do desenvolvimento dessa tecnologia.
Entre as declarações que ganharam grande repercussão está a de Evan Hubinger, cientista da Anthropic, que afirmou haver mais de 10% de chance de a IA “matar todos os humanos” na próxima década. Hubinger atua na área de alinhamento de IA, que busca incorporar princípios e valores humanos aos sistemas para mantê-los em sintonia com prioridades sociais. Ao mesmo tempo, ele considerou que o risco dos sistemas atuais é “baixo”.
Outra voz que deixou a Anthropic, o pesquisador Jacob Coxon, disse à BBC que havia desentendimentos sobre o rumo do desenvolvimento e que ele e colegas estavam “genuinamente assustados” com a velocidade dos avanços, sinalizando preocupações sobre perda de controle sobre a tecnologia.
Cenários e preocupações levantadas
Executivos e especialistas descrevem cenários que variam de agentes de IA capazes de executar ações autônomas sem supervisão a usos maliciosos da tecnologia para espionagem, ataques cibernéticos, guerra biológica ou desequilíbrios econômicos, seja por acidente ou intencionalmente. O temor de que uma eventual IA superinteligente — conceito teórico de um sistema mais inteligente que humanos — se aperfeiçoe sozinho também tem sido citado como motivo de preocupação.
O diretor da Anthropic, Dario Amodei, afirmou que a tecnologia avançou “drasticamente mais rápido” do que o esperado e destacou a capacidade emergente de criar a “próxima geração de IA”. Esse avanço tem motivado pedidos por avaliações formais de segurança e supervisão independente dos sistemas em desenvolvimento.
Propostas de desaceleração e reações
Amodei e Sam Altman, CEO da OpenAI, defenderam a criação de regras e uma desaceleração no ritmo de desenvolvimento permitiria mais tempo para tornar os sistemas seguros, sem, segundo Amodei, significar a interrupção do treinamento de modelos. Altman afirmou que controlar o ritmo não equivale a “parar” e destacou os custos associados a avaliações e monitoramento mais rigorosos.
Alguns críticos, porém, veem no movimento por regulamentação uma possível estratégia para consolidar a vantagem das empresas líderes do setor em relação a concorrentes atuais e futuros. Ativistas como os do grupo PauseAI também pedem que grandes empresas interrompam esforços para criar sistemas de IA cada vez mais avançados.
Reações políticas e internacionais
Parlamentos e governos têm se mobilizado de formas distintas. Um grupo suprapartidário do Parlamento britânico publicou um relatório pedindo novas leis para enfrentar riscos à direitos humanos decorrentes da IA. Nos Estados Unidos, o presidente Donald Trump e integrantes de sua administração enfatizam a importância de os EUA liderarem a corrida pela IA; Trump minimizou recentemente os riscos apontados por pesquisadores.
A China, que vem promovendo desenvolvimento doméstico de IA diante de restrições de acesso a componentes americanos, tem defendido maior coordenação internacional para estabelecer regras e criticado narrativas de ameaça que promovem confronto entre países.
Críticos do foco em riscos existenciais argumentam que problemas concretos e já observados, como deepfakes, desinformação, golpes e violações de privacidade, exigem atenção imediata e regulação prática.
Fonte: G1
