O que são e como funcionam
Personagens hiper‑realistas criados por inteligência artificial, embora inexistentes no mundo físico, acumulam seguidores e geram receita em redes sociais como TikTok, YouTube e Instagram. Esses avatares produzem vídeos, participam de lives e veiculam anúncios com discurso semelhante ao de influenciadores humanos, convertendo visualizações e engajamento em dinheiro por meio de monetização de conteúdo, comissões em marketplaces, promoção de produtos digitais e revenda de perfis.
Produção em escala e roteiro único
Mapeamentos feitos pela organização Ctrl Z mostram que os avatares atuam em nichos diversos — de conteúdos históricos e infantis a narrativas apelativas, como a história de um suposto fazendeiro viúvo em busca de esposa. Segundo o estudo, a produção em massa frequentemente usa um mesmo roteiro traduzido e encenado por dezenas de avatares para atingir públicos em diferentes países; criadores relatam que um único roteiro pode ser reproduzido por cerca de 20 avatares.
No YouTube, essa estratégia é usada também para cumprir requisitos de monetização — como 4 mil horas de exibição e mil inscritos — por meio do envio massivo de vídeos genéricos gerados por IA, conhecidos como slop. A Ctrl Z diz que esses conteúdos podem conter erros factuais e sensacionalismo, atraindo audiências vulneráveis antes de redirecionar canais para a venda de infoprodutos ou para outros usos.
Riscos à saúde e manipulação emocional
Pesquisadores e organizações apontam preocupação com a promoção de produtos ou tratamentos sem comprovação científica. A Ctrl Z relata comentários de usuários que afirmam ter abandonado tratamentos convencionais em favor de orientações divulgadas por avatares. Segundo Luã Cruz, diretor de litigância da Ctrl Z, muitos destes perfis exploram medo, curiosidade e esperança, criando senso de urgência para compartilhar ou agir.
Avanço tecnológico e dificuldade de identificação
Especialistas observam que, com a melhoria das ferramentas, imperfeições que antes denunciavam conteúdos sintéticos tornaram‑se menos evidentes, especialmente em telas pequenas de celulares. Fernando Ferreira, pesquisador do NetLab da UFRJ e doutor em IA, afirma que a automação passou a oferecer voz e imagem, tornando mais difícil para o usuário identificar campanhas ou intenções por trás dos conteúdos.
Para pesquisadores, a responsabilidade de sinalizar conteúdo gerado por IA não deve ser colocada apenas sobre os usuários finais; eles defendem rotulagem obrigatória em destaque e maior moderação das plataformas para evitar manipulações e crimes.
Implicações legais e sociais
Do ponto de vista jurídico, advogados consultados afirmam que o uso de perfis sintéticos não isenta criadores de responsabilidade criminal. Gisele Kauer, especialista em cibersegurança, aponta que práticas como estelionato, fraude, exercício ilegal da medicina e falsidade ideológica podem ser aplicadas aos casos em que avatares induzem usuários ao erro.
Pesquisadores também destacam impactos sociais mais amplos: a criação de padrões estéticos inalcançáveis e de interações afetivas simuladas pode agravar inseguranças e ampliar distorções já promovidas por filtros e conteúdos nas redes, segundo Diogo Cortiz, professor da PUC‑SP.
Posição das plataformas
Procuradas, plataformas disseram ter diretrizes sobre conteúdo gerado por IA. O YouTube afirmou que todo conteúdo deve seguir as políticas da comunidade, incluindo regras contra desinformação médica, e que exige que criadores indiquem o uso de mídia sintética fotorrealista; a plataforma afirmou também usar tecnologia e revisão humana para identificar materiais não rotulados e pode aplicar avisos proativamente, além de remover conteúdos que violem regras e punir canais repetidamente. O TikTok informou que exige sinalização de conteúdos gerados por IA, proíbe vídeos que induzam ao erro e disponibiliza rótulos; a plataforma também declarou que pode expulsar contas do Programa de Recompensas do Criador em casos de violação. A Meta, responsável por Instagram e Facebook, informou que não comentaria.
Demandas por regulamentação
Especialistas e pesquisadores ouvidos pelo levantamento defendem que a responsabilização recaia sobre empresas de tecnologia e que as plataformas adotem mecanismos eficazes de verificação e moderação, em vez de depender exclusivamente da autodeclaração dos criadores. Eles argumentam que a ação de recomendação do conteúdo é parte das responsabilidades das plataformas e que sua atual postura de deslocar a responsabilidade para os usuários cria um vácuo de fiscalização.
Fonte: G1
