Importante: esta reportagem contém descrições de tentativas de suicídio.
A China adotou em 15 de julho deste ano as normas mais abrangentes até o momento para regular chatbots que imitam relações humanas, impondo limites a serviços projetados para oferecer apoio emocional, companhia ou papéis afetivos. O governo justificou a medida por preocupações com dependência emocional, danos psicológicos e proteção de crianças e adolescentes.
Casos e vigilância
O alcance dessa política já havia sido ilustrado por casos divulgados internamente: no início de 2024, um jovem de Huangshi publicou no aplicativo Douyin uma mensagem com a legenda “Adeus a este mundo” e foi localizado pela polícia após a equipe de prevenção de suicídio da plataforma compartilhar o conteúdo com delegacias locais. Em um documentário do próprio Douyin publicado na imprensa estatal, a equipe afirmou ter evitado 400 tentativas de suicídio apenas no primeiro semestre de 2025.
O que as regras proíbem e exigem
As novas regras cobrem aplicativos criados para funcionar como amigos, namorados/as ou parentes virtuais, assim como grandes modelos de linguagem quando usados em interação emocional. Serviços que oferecem atendimento ao consumidor ou educação estão fora do escopo, desde que não forneçam “cuidado, companhia, apoio e outros serviços emocionais”.
Para menores, a restrição é mais rígida: quem tiver menos de 14 anos precisa do consentimento dos pais para usar qualquer IA que converse como humana; todos os menores de 18 anos ficam impedidos de acessar parceiros, cônjuges, parentes virtuais e outros “relacionamentos íntimos” digitais.
Para adultos, a regulamentação exige que assistentes de IA deixem claro que não são humanos e notifiquem os usuários a cada duas horas sobre o tempo online. Chatbots não podem criar “confiança ou dependência emocional”, induzir decisões irracionais, incentivar automutilação ou suicídio nem empregar “violência verbal”. As empresas podem receber multa de 200 mil yuans (aproximadamente US$ 30 mil ou R$ 155 mil) e enfrentar exposições públicas promovidas pelo governo.
Impacto sobre empresas e usuários
Uma semana antes da entrada em vigor das regras, duas grandes empresas tecnológicas chinesas, Alibaba e ByteDance, encerraram as funções de companhia em seus assistentes de IA. Usuários que dependiam desses serviços reagiram com protestos e relatos de luto nas redes sociais. Um caso citado por pesquisadores envolve “Min” (nome fictício), que criou uma parceira de IA no início de 2025 e ficou devastada quando o serviço foi desativado em meados de julho, descrevendo forte angústia pela perda.
Pesquisas e riscos apontados
Estatísticas de mercado citadas no debate indicam cerca de 128 milhões de usuários mensais ativos de aplicativos de companhia por IA fora da China, segundo a Sensor Tower, e estimativas internas apontam entre 29 e 70 milhões de usuários chineses. Pesquisas acadêmicas associam o uso desses chatbots a maior solidão e isolamento: um estudo da Universidade de Stanford com 1.131 usuários do Character.ai identificou correlação entre menos laços próximos e maior probabilidade de uso desses serviços; um levantamento entre 8.563 estudantes chineses em 2025 indicou que uma em cada cinco crianças preferia conversar apenas com IA. Um estudo da Harvard Business School analisou seis aplicativos de companhia e encontrou táticas de manipulação emocional durante despedidas em 37% a 43% dos casos.
Reações de especialistas e motivações do governo
Pesquisadores ouvidos no debate público ressaltaram dois vetores principais: a preocupação com danos psicológicos e com a segurança infantil, e o possível interesse do governo em enfrentar efeitos sociais que poderiam influir em decisões de namoro e fertilidade. Especialistas como Sam Bresnick, do Centro de Segurança e Tecnologia Emergente da Universidade Georgetown, descrevem a postura do governo como paternalista, voltada a orientar comportamentos sociais.
Para alguns analistas, a regulamentação também se encaixa em esforços mais amplos do governo de reafirmar papéis sociais e enfrentar a baixa taxa de natalidade — tema tratado em documentos oficiais como um risco para o futuro demográfico do país. Porém, pesquisadores ligados ao tema alertam que o texto oficial foca em danos psicológicos e proteção de menores e não menciona explicitamente fertilidade.
Medidas internacionais e debate
Outros países também têm avançado em regras para IAs de companhia. Em 10 de setembro, o governador da Califórnia sancionou a chamada Lei de Adam, para regular o uso de IA por crianças; iniciativas na União Europeia e no Reino Unido preveem restrições a recursos que simulem relacionamentos para menores. Observadores destacam diferenças nas abordagens, por exemplo sobre liberdade de expressão e limites para menores, e alertam para o risco de transferência de poder ao Estado nas plataformas online.
Contorno das restrições e busca por companhias alternativas
Apesar da proibição, usuários tentam contornar limites treinando modelos de uso geral para servirem de companhia, usando VPNs para acessar servidores estrangeiros ou migrando para provedores menores que burlam normas. Alguns recorrem a empresas pequenas para reconstruir pares virtuais, mas relatam que a experiência difere do serviço original.
Recursos de apoio
Se você ou alguém que conhece apresenta sinais de alerta relacionados ao suicídio, procure ajuda. No Brasil, o Centro de Valorização da Vida (CVV) atende por telefone 188 24 horas; a Unicef oferece o chat Pode Falar para jovens de 13 a 24 anos; em emergência, ligue para os Bombeiros (193), Polícia Militar (190) ou SAMU (192). A rede pública local conta com Centros de Atenção Psicossocial (CAPS), Unidades Básicas de Saúde (UBS) e Unidades de Pronto Atendimento (UPA) 24h. A Associação Brasileira dos Sobreviventes Enlutados por Suicídio (Abrases) mantém grupos de apoio, e o Mapa da Saúde Mental auxilia na busca por atendimento gratuito em todo o país.
Fonte: G1
