Um relatório divulgado nesta terça-feira (7) conclui que a indústria global de inteligência artificial (IA) não está atendendo padrões adequados de segurança e não consegue enfrentar ameaças consideradas “existenciais”. O estudo foi publicado pelo Future of Life Institute, think tank americano dedicado à segurança em IA, que avaliou nove das principais empresas do setor.
A avaliação combinou dados públicos e informações fornecidas pelas próprias companhias para estabelecer um ranking semestral. Segundo o relatório, as nove empresas analisadas não apresentam medidas suficientes para mitigar riscos como o desenvolvimento de modelos que atinjam inteligência semelhante à humana — conhecidas como “inteligência artificial geral” ou AGI.
Os esforços das empresas foram examinados em seis categorias: avaliação de riscos; danos atuais; estruturas de segurança; segurança existencial; governança e transparência; e compartilhamento de informações. Em nenhuma dessas categorias uma empresa recebeu a nota “A”, considerada a mais alta. A Anthropic, empresa americana de IA, obteve a maior classificação geral, um “C+”.
O documento também aponta que várias empresas que anteriormente proibiam o uso militar de suas tecnologias vêm “revertendo gradualmente o rumo”. A Anthropic recebeu críticas por manter o que o relatório descreve como “compromissos militares questionáveis”. Relatos da imprensa indicam que o governo dos Estados Unidos utilizou tecnologia da Anthropic em operações militares na Venezuela e no Irã durante o último ano.
Ao mesmo tempo, a Anthropic foi recentemente alvo de uma proibição do Pentágono, motivada por divergências sobre a segurança da IA, segundo o relatório. Embora o texto reconheça que há tentativas construtivas de melhorar práticas e controles, conclui que, globalmente, essas iniciativas são “totalmente insuficientes”.
O relatório também cita outros riscos relacionados ao uso indevido de modelos de IA, como a possibilidade de um modelo ser empregado para realizar ciberataques ou para executar tarefas potencialmente prejudiciais a seres humanos.
O estudo do Future of Life Institute reforça a preocupação sobre lacunas na segurança da indústria de IA e aponta a necessidade de avanços mais consistentes por parte das empresas avaliadas.
