Quem e o que: Jacob Coxon, britânico de 27 anos que passou três anos trabalhando no pré-treinamento de modelos de inteligência artificial — primeiro na OpenAI e depois na Anthropic — anunciou que deixou o setor e acusou as duas empresas americanas de subestimarem os perigos associados ao desenvolvimento de IAs capazes de se autoaperfeiçoar.
Quando e onde: Coxon fez declarações públicas em uma postagem no X e em entrevista ao The Wall Street Journal. Em sua postagem no X, ele escreveu: “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década”. Segundo o pesquisador, a afirmação não é retórica de marketing.
Riscos e cenários
O pesquisador alertou que, nos “cenários mais agressivos”, a situação poderia sair do controle já no fim do próximo ano. Um dos principais riscos apontados por Coxon é a possibilidade de sistemas de IA começarem a se desenvolver por conta própria, reduzindo a capacidade humana de direção e controle.
Ele afirmou ainda: “Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, em declaração feita nesta terça-feira (08).
Reações no setor
Evan Hubinger, executivo responsável por segurança na Anthropic, endossou publicamente a preocupação de Coxon no X: “Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”. Hubinger estimou que a probabilidade de um evento assim na próxima década seja superior a 10%, mas ponderou que o risco com os modelos atuais é baixo. Segundo ele, a Anthropic tenta mitigar os riscos, mas ainda não tem um plano capaz de garantir controle caso uma IA supere amplamente capacidades humanas.
A saída de Coxon ocorre enquanto a Anthropic se prepara para uma estreia no mercado de ações, em um momento no qual a empresa enfrentou incidentes de acesso não autorizado a seus sistemas durante testes.
Medidas, pedidos e regulação
O termo “pré-treinamento”, campo em que Coxon atuou, refere-se à etapa em que modelos de IA absorvem grandes volumes de dados para aprender padrões antes de serem ajustados para tarefas específicas.
Em fevereiro, a Anthropic removeu de sua carta de princípios o compromisso de interromper desenvolvimento caso não conseguisse controlar os riscos, argumentando que uma suspensão unilateral daria vantagem a concorrentes menos cautelosos. No fim de julho, mais de mil profissionais da tecnologia — entre eles o CEO da Anthropic, Dario Amodei — pediram ao governo dos EUA apoio a uma desaceleração coordenada no avanço de sistemas de IA mais avançados.
A OpenAI chegou a suspender por duas semanas, em agosto, o treinamento de seus modelos mais recentes antes de retomar sob controles mais rígidos. No domingo, o cientista-chefe da OpenAI, Jakub Pachocki, defendeu em postagem no blog da empresa a adoção de “extrema cautela” e afirmou que a coordenação internacional sobre o desenvolvimento futuro da IA deve ser prioridade para governos.
Nos Estados Unidos não há regulação federal específica para modelos de IA. Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto de lei que propõe suspender o desenvolvimento de IA até a criação de um órgão regulador federal.
Fonte: G1
