A Anthropic, desenvolvedora do chatbot Claude, anunciou uma atualização em sua política de uso que passa a vedar interações abusivas ou cruéis persistentes e desnecessárias dirigidas aos seus modelos de inteligência artificial. A empresa informou que a principal forma de aplicação da regra será a capacidade do próprio Claude de encerrar conversas consideradas abusivas. A nova política entra em vigor em 12 de novembro.
A empresa ressalta que a medida não impede críticas ou manifestações de insatisfação com respostas do chatbot. A restrição é específica a comportamentos repetidos e sem necessidade que tenham caráter abusivo ou cruel, segundo a Anthropic.
Contexto e posicionamentos
A mudança na política ocorre no momento em que profissionais e pesquisadores debatem se sistemas de IA podem desenvolver algum tipo de consciência e como esses sistemas devem ser tratados. A Anthropic já havia informado no ano anterior que daria ao Claude a habilidade de encerrar diálogos em casos raros e extremos de interações persistentes ou abusivas.
Em entrevista ao The New York Times, em fevereiro, o presidente-executivo da Anthropic, Dario Amodei, afirmou que não tem certeza se modelos de IA podem ser conscientes, mas que considera a possibilidade: “Não sabemos se os modelos estão conscientes… Mas estamos abertos à ideia de que isso possa ser”.
Especialistas consultados no debate apresentam visões distintas. Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA sediada em Atlanta, disse à AFP que focar a discussão na consciência pode levar a impasses. “Consciência é uma armadilha. Não podemos provar isso um no outro. Debata isso sobre IA e você fica em círculos”, afirmou, acrescentando que o comportamento reflexo das IAs em relação ao humano seria motivo suficiente para revisar regras de uso.
Em sentido oposto, Mustafa Suleyman, chefe de inteligência artificial da Microsoft, publicou um ensaio no mês passado rejeitando a ideia de consciência nas máquinas: “As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem”, escreveu Suleyman, também apontando riscos em conceder direitos ou proteções morais a sistemas tecnológicos.
O debate sobre a natureza das IAs também ganhou menção pública do papa Leão XIV. Em sermão proferido na Basílica de São Pedro na quinta-feira (8), o pontífice destacou que algoritmos processam dados mais rapidamente do que seres humanos, mas ressaltou a importância das experiências vividas e da dimensão espiritual do ser humano.
A Anthropic não alterou outras especificações técnicas do Claude com o anúncio; a mudança foca no comportamento dos usuários e nos mecanismos de controle do próprio chatbot para lidar com abusos repetidos.
