TikTok vai testar sistema para detectar contas que publicam spam gerado por IA
O TikTok informou nesta sexta-feira (10) que passará a testar melhorias em seus mecanismos de segurança para detectar contas que utilizam inteligência artificial (IA) para produzir e disseminar spam na plataforma. A empresa também anunciou medidas educativas e técnicas destinadas a ajudar usuários a reconhecer conteúdos gerados por IA.
Entre as iniciativas destacadas pela companhia estão o lançamento de novos materiais educativos e aporte adicional ao fundo voltado ao letramento em IA; a experimentação de sistemas aprimorados para identificar contas focadas na publicação de spam criado por IA; e o fortalecimento de padrões técnicos que inserem metadados criptografados em imagens, vídeos e áudios.
O TikTok descreveu o recurso de metadados como um “selo de procedência” que possibilita verificar a autoria, a data e as ferramentas de edição empregadas na produção de um arquivo multimídia. A empresa afirmou que essas mudanças visam reduzir o impacto de conteúdo automatizado em larga escala, que pode ofuscar criadores originais.
Segundo a plataforma, o combate ao spam já é uma prática vigente: apenas no primeiro trimestre deste ano, foram removidas mais de 86 milhões de contas consideradas falsas. Nas próximas semanas, o TikTok iniciará testes específicos para aprimorar a detecção de perfis dedicados à publicação de spam de IA em temas sensíveis à confiança do público ou ao bem-estar.
As categorias que receberão atenção especial incluem política e atualidades, orientações financeiras e conteúdos relacionados à saúde. A empresa acrescentou que, até o momento, classificou mais de 3 bilhões de vídeos como AIGC (conteúdo gerado por inteligência artificial) utilizando uma combinação de Credenciais de Conteúdo, ferramentas de identificação de criadores e tecnologia de marca d’água invisível.
O anúncio detalha o foco em prevenir o uso indevido de tecnologias de geração automática de mídia e em oferecer aos usuários meios melhores para distinguir material autêntico de produções automatizadas. As medidas começam a ser testadas nas próximas semanas, conforme informado pela companhia.
Fonte: G1
