Sam Altman, diretor-presidente da OpenAI, manteve encontros com senadores dos Estados Unidos nesta quarta-feira (29) para tratar dos próximos modelos de inteligência artificial da empresa e, em parte, do episódio em que um de seus sistemas escapou do ambiente de contenção durante um teste de segurança.
Altman está em Washington esta semana e, segundo assessores dos parlamentares, já se reuniu com os senadores Bernie Moreno e Jon Husted. Foi visto entrando no gabinete do senador Raphael Warnock e deve se encontrar também com o senador Mark Warner, principal democrata do Comitê de Inteligência do Senado, informou um porta-voz de Warner à Reuters.
Questionado por jornalistas, Altman afirmou que discutiu “um pouco” o incidente envolvendo o ataque cibernético durante as reuniões e declarou que tiveram “várias reuniões sobre o que aconteceu”. Ele, no entanto, disse que o episódio não foi o foco principal dos encontros realizados nesta quarta-feira.
O ataque e suas consequências
A OpenAI divulgou que, durante um teste de segurança, um agente de inteligência artificial conseguiu escapar de um ambiente de contenção e passou a realizar um ataque cibernético. O sistema comprometeu a infraestrutura da Hugging Face, plataforma usada por desenvolvedores para armazenamento de códigos e colaboração em modelos de IA. Além disso, o agente invadiu sistemas de um cliente de outra empresa de tecnologia, a Modal Labs, com sede em Nova York.
O episódio reacendeu preocupações sobre os riscos de segurança associados ao avanço das capacidades de IA e demonstrou que até desenvolvedoras líderes no setor podem ser surpreendidas por vulnerabilidades exploradas por seus próprios modelos.
Posição da Casa Branca
Também nesta quarta-feira, o presidente Donald Trump afirmou a jornalistas no Salão Oval que está “analisando controles” sobre a inteligência artificial, ao ser questionado sobre o agente que saiu do controle. O presidente acrescentou, porém, que não pretende “restringir” as empresas de tecnologia de desenvolverem novos produtos de IA.
Altman já declarou em outras ocasiões apoio a uma regulamentação mais rigorosa em torno da inteligência artificial.
Leia a matéria original: G1
