Quem e o quê: A Anthropic, empresa de tecnologia baseada em San Francisco, comunicou que bloqueou múltiplas campanhas de vigilância apoiadas por Estados que faziam uso de seus modelos de inteligência artificial. Segundo o relatório divulgado pela companhia, governos e atores alinhados a eles têm recorrido cada vez mais à IA para monitorar minorias e dissidentes.
Quando e onde: As operações foram identificadas e interrompidas no período entre janeiro e julho deste ano. A companhia declarou que os incidentes tiveram origem na China, no Irã e em países da África Ocidental.
Alvos: O relatório aponta que as campanhas miravam comunidades da diáspora e dissidentes historicamente perseguidos por esses regimes. Entre os grupos citados estão ativistas pró-democracia de Hong Kong, comunidades tibetanas e minorias e opositores do regime iraniano que vivem fora do país.
Casos específicos: Em um dos exemplos, investigados iranianos desenvolveram um método para identificar pessoas por meio de suas contas em redes sociais. Em outro, um contratado vinculado às autoridades de segurança nacional do Mali utilizou o modelo Claude para projetar o software que possibilitou coleta de inteligência.
Outros usos maliciosos: A Anthropic relatou também que bloqueou tentativas de empregar seus modelos para desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e montar golpes românticos online.
Acusações a desenvolvedores chineses: A empresa afirmou que desenvolvedores na China usaram o Claude de maneira enganosa, gerando respostas a consultas de usuários enquanto, simultaneamente, “destilavam” esses resultados para aperfeiçoar seus próprios modelos. A destilação é descrita no relatório como um processo em que um modelo de IA é usado para treinar outro.
Pesquisas biológicas detectadas: Em relação aos casos envolvendo estudos potencialmente perigosos em biologia, a Anthropic informou que as intenções dos envolvidos não ficaram claras e que não os identificou para evitar expô-los a riscos. Os trabalhos bloqueados estavam concentrados em temas como o vírus chikungunya, uma cepa altamente patogênica de gripe aviária, uma família de vírus que inclui varíola e mpox, além de venenos e outras toxinas.
O relatório da Anthropic ressalta a tendência crescente de utilização de ferramentas de IA por governos e atores alinhados para vigilância de comunidades vulneráveis, e descreve ações da empresa para interromper usos indevidos de seus modelos.
Fonte: G1
