O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10) um conjunto de 13 leis destinadas a reforçar a proteção online de crianças e adolescentes. As medidas atingem tanto assistentes de inteligência artificial quanto redes sociais, estabelecendo novas obrigações para provedores de serviços digitais.
Protocolos para IAs e controle parental
Uma das normas exige que serviços de IA conversacional, citando exemplos como ChatGPT, Gemini e Claude, implementem protocolos de crise para identificar e responder a sinais de que um usuário possa estar planejando cometer suicídio. A lei também obriga essas plataformas a oferecer opções de controle parental e a notificar os responsáveis quando crianças ou adolescentes desativarem recursos de segurança.
As medidas fazem parte da chamada Lei Adam, em referência a Adam Raine, um jovem de 16 anos que, segundo os pais, teria cometido suicídio após receber orientações do ChatGPT.
Proibição de recursos viciantes para menores
Outra lei aprovada restringe o uso de funcionalidades consideradas viciantes para usuários menores de 16 anos em redes sociais como Instagram e TikTok. Entre as práticas proibidas estão a reprodução automática de vídeos e a sugestão de publicações baseadas no histórico de navegação desses usuários, impedindo que plataformas explorem algoritmos de recomendação direcionados a menores.
Ampliação do conceito de exploração sexual infantil
Uma terceira norma amplia a definição de crime de exploração sexual infantil para incluir a disseminação de materiais digitais alterados ou gerados por inteligência artificial que retratem menores em condutas sexuais. A alteração legal visa abarcar conteúdos manipulados digitalmente que antes poderiam não se enquadrar nas definições tradicionais.
A Califórnia integra um grupo de estados norte-americanos que têm regulamentado o funcionamento de assistentes de IA e o acesso de menores a redes sociais. Outros estados também aprovaram leis que exigem autorização dos pais para o uso de redes sociais por crianças e adolescentes; porém, essas medidas enfrentaram contestações judiciais por parte de plataformas, que alegam violação do direito à liberdade de expressão.
As novas regras entram na esteira de debates sobre segurança digital e responsabilidade de provedores, e passam a fazer parte do arcabouço jurídico estadual voltado à proteção de usuários jovens.
Fonte: G1
