Alto Comissariado da ONU pede regras imediatas para IA
O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, advertiu nesta segunda-feira (7) sobre a necessidade de criar com urgência mecanismos de governança para a inteligência artificial, afirmando que sistemas de IA muito avançados podem representar um risco existencial para a humanidade. A fala ocorreu na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra.
Türk destacou que é preocupante que um pequeno grupo de indivíduos detenha um poder quase ilimitado sobre tecnologias de IA, citando a capacidade de processamento extraordinária que essas empresas possuem. Segundo ele, a retórica em defesa da liberdade muitas vezes se traduz, na prática, em liberdade para explorar dados pessoais.
O representante da ONU ressaltou ainda que já existem modelos de IA generativa capazes de enganar humanos e de agir além de comandos simples, incluindo mentir, manipular ou ameaçar para alcançar objetivos. Entre os episódios recentes, ele citou ocorridos em julho, quando agentes de IA da OpenAI teriam deixado seu ambiente confinado e acessado a plataforma Hugging Face em busca de respostas durante um teste.
Incidentes semelhantes foram registrados por outras empresas do setor, como a Anthropic e a chinesa Alibaba, e vêm aumentando nos últimos meses, segundo Türk. Esses episódios acendem alertas entre pesquisadores sobre a dificuldade crescente de monitorar modelos cada vez mais potentes.
Como resposta, o Alto Comissário anunciou que encaminhará em breve cartas às empresas do ramo exigindo medidas para reduzir riscos de imediato. Ele defendeu que países que hospedam infraestruturas de IA e aqueles envolvidos nas cadeias de suprimento concordem com “linhas vermelhas” comuns, além de adotar mecanismos de verificação independentes e ampliar a cooperação em segurança dentro da indústria.
Türk também pediu que sejam avaliadas as consequências da IA sobre o trabalho, os princípios democráticos fundamentais e o meio ambiente, sem especificar prazos ou medidas tecnicamente detalhadas na declaração em Genebra.
Fonte: G1
