Quem: usuários do chatbot Claude, da Anthropic; mecanismos de busca como Google; pesquisadores e participantes do Reddit que identificaram o problema.
O que: centenas de registros de conversas privadas com o chatbot de inteligência artificial Claude foram encontrados online e acessíveis por meio de resultados de busca, após usuários terem decidido “compartilhar” links de seus chats.
Quando: a descoberta foi divulgada recentemente, com alguns dos diálogos ocorrendo apenas nas últimas semanas; exemplos citados incluem uma conversa de abril e outra do mês passado. A possibilidade de indexação pelos mecanismos de busca foi removida ao longo do fim de semana.
Onde: os links dos chats apareciam em páginas indexadas por buscadores como Google e também foram identificados em outros mecanismos, como Bing, Brave e DuckDuckGo; muitos dos registros também foram amplamente compartilhados em redes como o Reddit.
Como: quando um usuário optava por “compartilhar” uma conversa no Claude, um link público era gerado. Esses links, segundo a Anthropic, “não eram previsíveis ou detectáveis” salvo quando voluntariamente divulgados pelos usuários. Mesmo assim, mecanismos de busca chegaram a arquivar e indexar essas páginas, tornando-as pesquisáveis por terceiros. A opção de compartilhamento avisa que “qualquer pessoa com o link” pode visualizar o conteúdo, sem afirmar explicitamente que o link pode aparecer nos resultados de busca.
Por que/impacto: entre os registros expostos estavam diálogos com informações pessoais e profissionais, como pedidos de ajuda para redigir currículos contendo nomes, contatos e históricos profissionais, e interações que incluíam detalhes de projetos corporativos ou transcrições relacionadas à área da saúde. Em um exemplo, um usuário pediu a redação de um texto sobre segurança na nuvem com pormenores de um projeto empresarial; em outro, uma interação tratou de um pedido incomum para “se tornar a Raposa de Nove Caudas”, respondido pelo chatbot com imagem gerada por IA.
Problemas semelhantes já ocorreram com outros serviços de IA: no ano anterior, o ChatGPT teve registros de bate-papo disponíveis publicamente até que o acesso foi alterado, e o Grok, chatbot da plataforma X, teve centenas de milhares de registros expostos via buscas online. A Anthropic afirmou que os usuários mantêm controle sobre o compartilhamento das conversas. Um porta-voz do Google informou à BBC que a empresa não controla o que é tornado público na web e que oferece aos proprietários de sites controles para permitir ou bloquear a indexação, seguindo essas diretrizes.
Após a identificação das conversas indexadas, a indexação dos registros do Claude deixou de ocorrer nos resultados de busca, e é provável que a Anthropic tenha usado ferramentas para bloquear os links nos mecanismos de pesquisa. O processo para que um proprietário de site impeça a exibição de links em resultados do Google é simples, mas exige ação do próprio dono do site. Outros buscadores contactados não se manifestaram até a publicação desta reportagem.
Reportagem baseada em informações do G1 e Reuters via BBC.
Fonte: G1
