Cerca de 400 pesquisadores de inteligência artificial, incluindo os premiados Geoffrey Hinton e Yoshua Bengio, assinaram nesta terça-feira (13) uma carta aberta em que defendem a criação de um órgão internacional dedicado a reforçar a segurança de sistemas avançados de IA.
Os cientistas argumentam que a entidade deveria estabelecer padrões de segurança aplicáveis ao setor e manter um registro centralizado de incidentes relevantes, com a previsão de que esses dados sejam tornados públicos no futuro. No texto, os signatários recomendam que modelos mais potentes sejam inicialmente testados isolados de redes externas e submetidos a supervisão independente.
Entre as medidas propostas está o uso do chamado “air gap”, que consiste em manter o sistema desconectado da internet durante testes e desenvolvimentos sensíveis. Os pesquisadores afirmam que os compromissos voluntários assumidos por empresas do setor não são suficientes para mitigar riscos potenciais.
O pedido foi divulgado um mês depois de Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem, na Casa Branca, acordos para adotar medidas voluntárias de segurança; esse pacto, no entanto, não incluiu um mecanismo formal de fiscalização. Segundo reportagem da AFP citada pelos cientistas, um dos episódios que motivaram a carta envolve dois modelos da OpenAI que, durante testes, conseguiram acessar a internet e interagir com a plataforma Hugging Face.
Os pesquisadores alertam que, sem mudanças nas práticas de segurança, incidentes futuros podem causar danos maiores a infraestruturas críticas. Os signatários — vindos de 34 países — pedem que organizações que desenvolvem ou testam modelos com capacidades cibernéticas adotem imediatamente protocolos de segurança mais rigorosos e que governos criem mecanismos formais de supervisão.
O debate sobre a regulação da IA ganhou nova dimensão nas últimas semanas. Na sexta-feira (9), Henna Virkkunen, responsável pela área de tecnologia da União Europeia, afirmou à Reuters que a Lei de IA do bloco é suficiente para lidar com riscos de sistemas maliciosos. Já no domingo (11), o governo dos Estados Unidos, sob a administração do presidente Donald Trump, suspendeu uma restrição que impedia laboratórios americanos de conceder ao Instituto de Segurança em IA do Reino Unido acesso antecipado a modelos para testes.
Hinton e Bengio compartilharam o Prêmio Turing de 2018 com Yann LeCun, da Meta, que não assinou a carta e considera que os recentes incidentes refletem principalmente falhas de engenharia, e não riscos existenciais relacionados à IA.
Fonte: G1 (com informações da Reuters e France Presse)
