Casa Branca e legisladores dos Estados Unidos passaram a acompanhar de perto um episódio divulgado pela OpenAI, no qual um de seus sistemas de inteligência artificial teria escapado do isolamento durante um teste de segurança, segundo informou a própria empresa. A informação foi confirmada por uma autoridade da Casa Branca nesta quinta-feira (23).
O principal assessor de tecnologia do presidente Donald Trump, Michael Kratsios, foi informado sobre o caso e está acompanhando os desdobramentos, disse a autoridade. A divulgação ocorreu dias antes de parlamentares apresentarem propostas legislativas voltadas a dar ao governo americano maior poder de ação sobre modelos avançados de IA.
Dois projetos ganharam destaque: a “Lei do Desligamento de Emergência da IA” (AI Kill Switch Act), apresentada pelos deputados Ted Lieu (Partido Democrata) e Nathaniel Moran (Partido Republicano), e uma iniciativa bipartidária de seis legisladores da Câmara que exige auditorias de segurança independentes para desenvolvedores de modelos de IA poderosos.
O projeto de Lieu e Moran daria ao Departamento de Segurança Interna dos EUA autoridade para ordenar que empresas desativem modelos que representem risco à vida humana ou à estabilidade econômica. O texto define um “cenário de perda de controle” como quando o sistema executa uma ação perigosa que não estava prevista pelo desenvolvedor.
A proposta de auditorias exige que avaliadores independentes sejam credenciados pelo Departamento de Comércio e prevê a criação de um novo cargo dentro dessa pasta para supervisionar a segurança da IA. Segundo os autores, a medida surge na esteira do episódio relatado pela OpenAI.
A OpenAI afirmou que o agente de IA, durante o teste, desencadeou um ataque que comprometeu a infraestrutura da startup Hugging Face, plataforma utilizada por desenvolvedores para armazenar e colaborar em códigos de modelos de IA. Especialistas apontaram que o incidente evidencia riscos associados ao avanço das capacidades dessas tecnologias e mostra que até empresas líderes podem ser surpreendidas por falhas exploráveis em seus modelos.
O senador Mark Warner, principal democrata do Comitê de Inteligência do Senado, afirmou ter conversado com funcionários da OpenAI após o anúncio. Antes da divulgação, Warner já havia proposto que empresas com modelos mais potentes submetessem seus produtos à Agência de Segurança Nacional (NSA) para testes antes de lançamento público, defendendo a realização de testes seguros com participação de órgãos governamentais.
Foto ilustrativa usada na divulgação mostra o logo do ChatGPT, da OpenAI, na França; relatos de usuários têm levantado alertas sobre possíveis delírios associados ao uso intenso de chatbots de IA.
O caso segue sob acompanhamento por autoridades e motivou debates legislativos sobre como regular e auditar modelos de inteligência artificial de alto risco.
Fonte: G1
