Ao anunciar sua nova política de discurso de ódio em janeiro, a Meta afirmou que passaria a concentrar seu sistema de detecção de violações em casos que chamou de “mais graves”, incluindo exploração sexual infantil. Passados dois meses da mudança, porém, teste realizado pelo Aos Fatos mostra que a empresa ainda falha na proteção de meninas expostas nas redes.
A reportagem denunciou dez vídeos de cinco jovens vítimas de sexualização no Instagram e no Facebook e apenas um conteúdo foi removido pelo sistema de moderação da plataforma. Mesmo nesse caso, a empresa falhou por manter o perfil no ar, que continuou usando seus stories no Instagram para divulgar um link para uma comunidade no Telegram que prometia fotos de uma adolescente.
A resolução nº 245/2024, do Conanda (Conselho Nacional dos Direitos da Criança e do Adolescente), obriga as plataformas a identificar e mitigar, de forma preventiva e diligente, os possíveis riscos aos direitos de crianças e adolescentes relacionados a seus serviços, incluindo a “propagação de conteúdos que incorram em abuso e exploração sexual de crianças e adolescentes”.
A norma diz ainda que “o controle de conteúdo ilegal ou impróprio envolvendo ou direcionado para crianças e adolescentes” deve ser uma prioridade das ferramentas e equipes de moderação das empresas.
Ainda assim, apesar de o Aos Fatos ter indicado em suas denúncias que se tratavam de possíveis casos de exploração sexual envolvendo menores de idade, o tempo de análise dos casos pela Meta foi de uma semana — período no qual todos os conteúdos suspeitos permaneceram no ar.
Segundo a jurisprudência do STJ (Superior Tribunal de Justiça), as plataformas precisam derrubar conteúdos que violem direitos de crianças e adolescentes assim que tomarem ciência da publicação criminosa, independentemente de haver ordem judicial de remoção.
Procurada pelo Aos Fatos, a Meta respondeu que não permite conteúdos que explorem ou coloquem menores em risco e que trabalha “de forma proativa para encontrar e remover esse tipo de material”, além de encorajar os usuários a denunciá-los. “Temos políticas, tecnologias e equipes especializadas focadas em eliminar interações abusivas”, diz a nota.
Após o pedido de posicionamento, todos os links denunciados pelo Aos Fatos saíram do ar.
Leia a íntegra da nota da Meta
Conteúdos que exploram ou colocam menores em risco não são permitidos em nossas plataformas e trabalhamos de forma proativa para encontrar e remover esse tipo de material, além de encorajarmos as pessoas a denunciá-los. Temos políticas, tecnologias e equipes especializadas focadas em eliminar interações abusivas.
Quando constatada exploração infantil, a Meta reporta ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), uma organização sem fins lucrativos que encaminha casos para autoridades.
A Meta também é parte da iniciativa Take it Down, uma plataforma que ajuda a evitar que imagens íntimas de jovens sejam divulgadas na internet, cujo acervo está disponível em 25 idiomas, incluindo o português. O Take It Down é um programa inovador do National Center for Missing & Exploited Children (NCMEC), apoiado pela Meta, desenvolvido especificamente para ajudar os adolescentes a recuperarem o controle sobre suas imagens íntimas e ajudar a prevenir a sua divulgação online.
Para saber mais acesse a política sobre Exploração sexual, abuso ou nudez infantil.
‘Novinhas’
Quase todos os conteúdos reportados pelo Aos Fatos faziam referência a casos de influenciadoras menores de idade cujos nomes circulam em comunidades de conteúdo pornográfico. Os perfis serão omitidos para a proteção das meninas.
Publicações nas redes indicam que pelo menos três das meninas expostas são efetivamente menores de 18 anos. Um quarto perfil, que aparenta ser estrangeiro, não cita a idade da influenciadora, que explora elementos infantis nos conteúdos e usa o nome de uma adolescente brasileira.
A quinta jovem declara ter 18 anos, mas seu Instagram traz conteúdos postados há mais de um ano. A página se dedica a vídeos de soft porn que exploram estética infantilizada, incluindo referências a situações de abuso.
Dos dez conteúdos reportados, o único vídeo removido pela Meta pertencia a uma página que usava o nome de uma jovem que, no final do ano passado, viralizou por causa de denúncias nas redes de venda de conteúdo pornográfico, em um esquema que teria o aval de sua mãe.
Os perfis oficiais da garota estão fora do ar, mas diversas páginas falsas seguem usando seu nome para difundir o conteúdo criminoso.
Na avaliação de Maria Góes de Mello, líder do Eixo Digital do Instituto Alana, não derrubar as réplicas das páginas também é uma falha da plataforma.
“Toda a lógica de propagação [do conteúdo ilícito] precisa estar no rol de atuação da empresa”, defende a especialista, que nota que as big techs reduziram investimentos na detecção de violações aos direitos das crianças e adolescentes nos últimos anos.
Predadores
A líder do Eixo Digital do Instituto Alana lembra que muitos casos de exploração sexual infantil envolvem conteúdos que não são ilícitos a priori, mas passam a configurar abuso pela forma como circulam. Isso ocorre, por exemplo, na sexualização das meninas pelos comentários deixados nos vídeos reportados pelo Aos Fatos.
Ainda que não houvesse exposição sexual explícita na maior parte dos conteúdos denunciados pela reportagem, as meninas costumam usar roupas curtas, fazer danças ou ter partes do corpo destacadas pelo enquadramento do vídeo — o que era explorado pelo assédio nos comentários. Em alguns casos, a gravação foi feita com o consentimento dos responsáveis pelas menores.
Segundo Mello, a autorização dos pais não reduz a responsabilidade das empresas na moderação. “Ainda que a família compartilhe ou estimule esse tipo de produção de conteúdo, a plataforma tem a obrigação de tirar do ar se for entendido como conteúdo que incorre em abuso e exploração”, explica.
A especialista defende ainda que o fato de as plataformas não adotarem mecanismos adequados de verificação de idade também abre margem para violações aos direitos das crianças e adolescentes.
A adoção de mecanismos de verificação etária proporcionais aos riscos das ferramentas é uma das recomendações feitas às empresas pelo guia sobre uso de telas por crianças e adolescentes, lançado nesta terça-feira (11) pela Secretaria de Comunicação da Presidência da República.
O documento também recomenda que as plataformas adotem “mecanismos eficazes para coibir todas as formas de abuso ou exploração sexual” de menores, desenvolvendo e implementando ferramentas para detectar, coibir e remover esses abusos.
O guia ainda defende o combate, por meio da moderação automatizada e humana, da difusão “de conteúdos apelativos, discursos de ódio ou violentos que atinjam crianças e adolescentes”, além da derrubada dos perfis de usuários “que cometam potenciais crimes contra crianças e adolescentes ou estimulem práticas danosas à saúde desse grupo”.
O caminho da apuração
Aos Fatos identificou, por meio de palavras-chave, publicações no Instagram e no Facebook com possível exposição sexual indevida de menores de idade. Os conteúdos foram reportados por meio dos canais de denúncia dos próprios aplicativos.
Após a análise das denúncias pela Meta, os conteúdos mantidos no ar pela empresa foram submetidos à avaliação de especialistas. A reportagem também procurou a plataforma para comentar o resultado do teste.
