Em uma piscina de plástico montada no quintal de uma casa sem reboco, uma mãe de biquíni faz um gesto circular com o dedo indicador. Era uma orientação para que sua filha — uma criança que aparentava ter no máximo sete anos — se virasse de costas para rebolar para o vídeo, gravado para ser exibido no Kwai. Em busca de engajamento, cenas como essa se repetem graças a brechas nas políticas das redes sociais.
Moderadores de conteúdo ouvidos pelo Aos Fatos sob a condição de anonimato denunciam que, embora as plataformas possuam regras rigorosas de combate a imagens explícitas de abuso sexual infantil, são permissivas diante de conteúdos que exploram menores de idade de forma latente, sobretudo quando há a presença de um dos responsáveis na frente da câmera.
No Kwai, as mulheres que gravam vídeos provocativos com as próprias filhas ganharam o apelido de “mães cafetinas”. O termo faz referência ao uso das menores para aumentar o alcance dos conteúdos, gerando monetização pelo aplicativo. O fenômeno, porém, não é exclusivo da plataforma.
“Tem mulheres que postam mídia sensualizando junto ao filho e, segundo a equipe de qualidade, isso não é considerado child exploitation. Já houve caso de uma mulher de lingerie, fazendo poses sensuais enquanto amamentava, e isso é permitido segundo a política”, relata um analista de conteúdo terceirizado, que trabalha para Facebook e Instagram em Bogotá.
“Já ouvi muitos comentarem que é como se a política fosse burra de propósito pra passar pano para essas coisas”, critica o prestador de serviços da Meta.
“Hoje em dia, conteúdo com mulheres quase sem roupa é praticamente liberado de passar pelos moderadores”, diz um funcionário do TikTok — que, ao ser questionado se as diretrizes são as mesmas quando há menor de idade no vídeo, confirmou.
No caso do Kwai, uma das limitações do sistema de vigilância da empresa diz respeito à identificação dos menores de idade. O processo, segundo um dos funcionários terceirizados ouvidos pelo Aos Fatos, é feito por equipes na China.
“Quando encontramos uma situação grave e desconfiamos que o conteúdo é de exposição de um menor de idade — às vezes sexual, mas não necessariamente —, enviamos para análise”, descreve o trabalhador, explicando que, algumas vezes, o vídeo é liberado porque foi avaliado que não se tratava de alguém com menos de 18 anos. “Ninguém pede documento, né? E a interpretação deles é um pouco aberta sobre quem é menor de idade ou não.”
Em janeiro, o Aos Fatos mostrou que crianças eram assediadas por adultos em tempo real durante lives no Kwai. A reportagem flagrou situações em que a transmissão foi retomada mesmo após ter sido denunciada. A exposição indevida de crianças é um dos eixos do inquérito aberto pelo MPF (Ministério Público Federal) para investigar a plataforma de vídeos curtos.
Além de políticas permissivas e imprecisão ao estimar a idade dos usuários, as limitações da inteligência artificial — que vem ganhando terreno na moderação — também têm facilitado a proliferação de conteúdo explorando menores nas redes.
“A IA tem dificuldade de identificar conteúdos que não são explicitamente sexualizados, mas são implicitamente sexualizados. Isso entra numa área cinza das políticas da plataforma”, relata uma analista do TikTok, demitida em março.
Segundo a ex-funcionária do TikTok, “a IA também não sabe distinguir idade das pessoas”, tarefa que considera difícil até para os próprios moderadores.
As denúncias de imagens de abusos contra crianças e adolescentes compartilhadas na internet aumentaram 77% em 2023, segundo balanço divulgado em fevereiro pela Safernet. No ano passado, foram reportados 71.867 casos, recorde da série histórica iniciada em 2006.
A Safernet atribui a explosão de denúncias à criação de deep nudes com IA, à proliferação de menores vendendo packs com suas próprias imagens e às demissões nas plataformas digitais.
Quem se deparar com pornografia infantil na internet pode reportar à Safernet e à Polícia Federal (denuncia.ddh@dpf.gov.br). Casos de abuso e exploração sexual de crianças — inclusive fora da internet — também podem ser denunciados, de forma anônima, pelo Disque 100.
Outro lado
Procurado, o Kwai afirma que “proíbe conteúdo que incentive ou retrate o abuso ou a exploração de menores de idade, sexualize menores de idade, coloque menores de idade em perigo, assim como comportamento dos próprios menores de idade que não estejam de acordo com a legislação brasileira, independentemente de tal conduta ser consensual, sexual ou não”. A empresa diz ainda que investe constantemente no aprimoramento de suas políticas e em sua estrutura de moderação, que realiza varreduras constantes na plataforma (leia a íntegra).
Já a Meta diz que não tolera “conteúdos que explorem ou coloquem crianças em risco” e que trabalha “de forma proativa para eliminar esse tipo de material” das suas plataformas. “Usamos uma combinação de tecnologia e revisão humana para identificar e remover interações abusivas em nossos serviços, e cooperamos com autoridades locais nesta área", afirmou a empresa, em nota enviada ao Aos Fatos (leia íntegra).
O TikTok, por sua vez, afirma ter “uma abordagem de tolerância zero para conteúdo de abuso e exploração sexual infantil online e compartilhamento de material de abuso sexual infantil”. A empresa também relata ter lançado cartilha, em parceria com a SaferNet, “para apoiar mães, pais e responsáveis a abordarem temas ligados à segurança digital com jovens e adolescentes” e declarar treinar sua equipe e ter ferramentas para identificar e remover contas de usuários que mentiram a idade quando se inscreveram na plataforma (leia a íntegra).
Por fim, o YouTube declarou que não aceita “nenhuma forma de conteúdo que coloque menores em risco” e que tem “forte histórico de combate à exploração sexual infantil”. “A reportagem do Aos Fatos não forneceu exemplos de conteúdo disponível no YouTube que esteja potencialmente violando nossas políticas para que pudéssemos avaliar”, destacou ainda o comunicado da empresa (leia a íntegra).
O caminho da apuração
O Aos Fatos publicou em janeiro deste ano uma reportagem sobre as lives com assédio a menores de idade no Kwai e, em fevereiro, noticiou o aumento nas denúncias no balanço da Safernet. Em virtude desses indícios, o tema foi incluído nas perguntas feitas aos moderadores para esta série de reportagens. Todos os profissionais foram identificados por meio das redes sociais e entrevistados sob condição de anonimato.
A reportagem procurou, depois, cada uma das plataformas, fornecendo um relatório detalhado de todas as afirmações e críticas que apareciam no texto, para que as empresas pudessem se posicionar.
Esta reportagem faz parte de uma série investigativa do Aos Fatos sobre moderação em língua portuguesa nas principais redes sociais.
