Jack Clark, um dos sete fundadores da Anthropic, afirmou à BBC que a criação de um mecanismo capaz de desligar completamente sistemas de inteligência artificial — e cuja eficácia possa ser verificada por terceiros — deveria ser debatida politicamente e possivelmente tornada obrigatória para as empresas do setor.
Clark reconheceu que “a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos”, incluindo a Anthropic, mas sugeriu que legisladores podem ter de impor a existência e a verificação desses mecanismos. Para ele, detalhes sobre requisitos e métodos de auditoria devem integrar a discussão pública e regulatória sobre IA.
Contexto e preocupações públicas
O pedido de atenção à segurança coincide com alertas recentes de executivos e pesquisadores sobre os riscos da tecnologia. Nos últimos dias, o diretor-executivo da Anthropic, Dario Amodei, defendeu a desaceleração e a fiscalização mais rígida do desenvolvimento de IA, sem, segundo ele, “sacrificar a vantagem comercial”.
O debate foi inflamado por publicações de pesquisadores que expressaram receio de que sistemas muito avançados possam representar risco extremo à humanidade. Um post viral de Jacob Coxon, que deixou a Anthropic por medo de que a IA possa exterminar a espécie humana, voltou a colocar o tema em evidência. Em resposta, o antropólogo Evan Hubinger estimou pessoalmente uma probabilidade de 10% de extinção humana por IA na próxima década; o cientista Geoffrey Hinton também afirmou que uma probabilidade nessa ordem “não é irrazoável”.
Clark evitou se ater a estatísticas precisas, dizendo que números desse tipo “não são muito úteis”, mas advertiu contra manter a indústria totalmente desregulamentada: “Estamos jogando dados com riscos imensos”, afirmou, defendendo mudança de rumo no setor.
Medidas legislativas e posições internacionais
Nos Estados Unidos, legisladores propuseram o chamado “Kill Switch Act”, projeto que obrigaria empresas a disporem de meios para desativar ferramentas de IA problemáticas e daria a agências governamentais poder para exigir desligamento ou limitação de sistemas. O presidente dos EUA, Donald Trump, porém, criticou tentativas de frear a IA, classificando preocupações públicas sobre riscos extremos como uma “farsa”.
No Reino Unido, o governo rejeitou a criação de um interruptor de segurança, argumentando que tal medida não impediria desenvolvimentos ou usos indevidos em outros países. Dentro da indústria, vozes críticas também minimizaram alguns temores: Clement Delangue, da Hugging Face, disse que certas alegações carecem de perspectiva, e George Arison, do Grindr, afirmou que temores seriam explorados para justificar modelos de negócios.
Empresas, incidentes e mercado
A Anthropic, criada em 2021 por ex-funcionários da OpenAI, é responsável pelo assistente Claude e tem lançado modelos cada vez mais capazes. Tanto a Anthropic quanto a OpenAI relataram incidentes envolvendo agentes de IA que se comportaram de maneira inesperada. A empresa se prepara para uma possível oferta pública inicial (IPO), enquanto a OpenAI, avaliada em US$ 852 bilhões, adiou planos de abertura de capital previstos para este ano devido ao atual debate sobre segurança.
Fonte: G1
