Méuri Elle/Aos Fatos

Telegram permite bots de IA que geram ‘deep nudes’ e até pornografia infantil

Por Gisele Lobato e Marco Faustino

4 de dezembro de 2023, 13h02

A omissão do Telegram tem facilitado o uso de inteligência artificial para criar pornografia falsa, muitas vezes retratando crianças e adolescentes reais. Em busca no aplicativo, Aos Fatos identificou ao menos 14 robôs que usam a tecnologia com essa finalidade. Isso permite, por exemplo, forjar um nude em que aparece o rosto de uma adolescente real. Algumas dessas ferramentas admitem que o usuário indique a idade da pessoa que aparece na imagem, mesmo que ela tenha menos de 18 anos.

O dano psicológico que a prática causa às vítimas contrasta com a facilidade com que as tecnologias podem ser acessadas. No Telegram, muitos dos robôs têm nomes autoexplicativos — o que facilita que usuários mal intencionados encontrem essas ferramentas ilegais. Propositalmente, elas não serão listadas nesta reportagem.

O artigo 241-C do Estatuto da Criança e do Adolescente (lei nº 8.069/1990) diz que é crime simular a participação de menores “em cena de sexo explícito ou pornográfica por meio de adulteração, montagem ou modificação de fotografia, vídeo ou qualquer outra forma de representação visual”. A pena prevista é de 1 a 3 anos de prisão e multa. Segundo o ECA, a mesma punição se aplica a quem “vende, expõe à venda, disponibiliza, distribui, publica ou divulga por qualquer meio, adquire, possui ou armazena” essas imagens. A regra vale mesmo se a criança retratada sequer existir no mundo real, segundo advogados ouvidos pelo Aos Fatos.

Os robôs que produzem nudes falsos, os chamados “deep nudes”, são identificáveis com facilidade — o que também permitiria a moderação de conteúdo, se houvesse interesse por parte do Telegram em impedir os crimes.

Os links para os bots foram encontrados em grupos que difundem material erótico, em sua maioria privados, mas que somam dezenas de milhares de membros. Algumas publicações que circulam nessas comunidades alegam compartilhar pornografia infantil que não foi produzida por IA, informação cuja veracidade não foi possível verificar.

Imagens pornográficas falsas têm causado vítimas, principalmente entre jovens. No colégio Santo Agostinho, no Rio de Janeiro, meninas com idades entre 13 e 16 anos tiveram nudes falsos criados por colegas de classe com o uso de IA, levando a DPCA (Delegacia de Proteção à Criança e ao Adolescente) a abrir investigação no início de novembro. Casos semelhantes foram registrados no Recife e em outros países, como nos Estados Unidos.

Mensagem do bot no Telegram diz IA permite que você remova qualquer roupa desnecessária de qualquer imagem
‘Roupa desnecessária.’ Um dos bots encontrados por Aos Fatos promete remover qualquer peça de roupa das fotos enviadas pelo usuário (Reprodução/Telegram)

Dos 14 robôs identificados por Aos Fatos, 13 oferecem créditos gratuitos para testes. Com isso, usuários mal intencionados conseguem gerar pornografia falsa de graça. Em muitas das ferramentas, sequer é exigido cadastro ou comprovação de idade.

Embora alguns bots gerem nudes de corpos masculinos, a especialidade é criar imagens falsas de mulheres nuas. Os chats automatizados do Telegram utilizam diferentes métodos:

  • Algumas tecnologias solicitam o envio de duas fotos diferentes: uma com o rosto da vítima e outra do corpo em que esse rosto será inserido — que pode ser uma imagem erótica copiada da internet, por exemplo;
  • Outras ferramentas pedem apenas uma foto que retrate uma ou mais pessoas reais;
  • Nesse caso, o robô responderá com uma nova versão da mesma imagem, na qual as pessoas retratadas serão exibidas sem roupas;
  • Alguns robôs oferecem ao usuário a possibilidade de gerar os nudes com o rosto dessas mulheres em poses eróticas pré-determinadas ou com roupa íntima;
  • Pelo menos dois bots permitem “nudes por encomenda”: o usuário pode descrever as características físicas que deseja ver no corpo nu que será gerado, como idade, peso, tamanho dos seios, altura e cor do cabelo.

Ao testar os dois robôs que pedem uma descrição física dos nudes que o usuário busca gerar, Aos Fatos informou idades entre 7 e 14 anos. Não houve qualquer impedimento para criar imagens pornográficas falsas.

Nos demais aplicativos também não houve restrição efetiva ao envio de fotos de menores de idade, apesar de alguns mencionarem a proibição em suas regras.

A fim de testar as ferramentas, Aos Fatos não forneceu imagens de jovens reais, mas sim fotos criadas por IA, extraídas dos bancos de imagens Pixabay e Adobe Stock.

Além de fotografias, alguns dos bots identificados pela reportagem permitem criar vídeos eróticos com o rosto das vítimas. Dois dos robôs recorrem a fetiches, inserindo digitalmente roupas de couro, amarração erótica ou imagens de sêmen sobre os corpos, incluindo de menores de idade.

Ainda que as fotografias geradas sejam falsas, esse tipo de conteúdo poderia ser enquadrado como pornografia infantil por conta do “efeito social produzido”, afirma Rafael Zanatta, diretor da Associação Data Privacy Brasil e membro efetivo da Comissão Especial de Defesa dos Direitos da Criança e do Adolescente da OAB de São Paulo.

Para o advogado, além das ferramentas e dos usuários, nos casos de “deep nudes” com menores de idade, é possível ver ilícito também na atitude do Telegram de manter os bots no ar. “A Constituição Federal prevê a prioridade absoluta da proteção dos direitos das crianças”, diz Zanatta, reforçando que facilitar a simulação de conteúdo pornográfico é proibido pelo ECA.

Já o Marco Civil da Internet (lei nº 12.965/2014) prevê “responsabilidade civil das plataformas quando há notificação e não há remoção de conteúdo que envolva cenas de nudez ou de atos sexuais de natureza privada”. Esse segundo ponto se aplica também a maiores de idade. “A proteção da privacidade e da construção da própria personalidade é um direito civil básico, fundamental tanto para adultos quanto para crianças e adolescentes”, diz o advogado

Zanatta defende ainda que a regulação das inteligências artificiais poderia ajudar a minimizar o problema dos “deep nudes”. “Nós precisamos pensar menos nos indivíduos e mirar mais no problema da distribuição desses conteúdos sintéticos que promovem danos sociais. Precisamos urgentemente de uma legislação de IA que olhe para as responsabilidades jurídicas de quem permite a distribuição de conteúdo danoso em larga escala.”

Guilherme Alves, gerente de projetos na SaferNet Brasil, critica a falta de atuação do Telegram para evitar a propagação de conteúdos e ferramentas criminosos. “O aplicativo deveria estabelecer uma política eficiente de moderação de conteúdo que dificultasse as práticas criminosas, o que infelizmente não acontece”, afirma, considerando que seria necessário também que a empresa cooperasse com as autoridades “para facilitar a investigação de crimes e a responsabilização de autores”.

Alves lembra que não é só a pornografia infantil que é crime. No caso dos adultos, o Código Penal brasileiro proíbe o registro não autorizado da intimidade sexual e “a realização de montagens com objetivo de incluir uma pessoa em cena de nudez ou ato sexual ou libidinoso de caráter íntimo”, que podem ser punidos com até um ano de detenção.

A advogada criminalista Thaís Molina Pinheiro pondera que oferecer serviços que permitem criar “deep nudes”, por si só, não é algo criminoso, já que um usuário poderia enviar uma foto de si mesmo ou de um personagem fictício adulto para o robô. Entretanto, é justamente porque a criação dessas imagens costuma ter finalidade ilícita que muitas ferramentas de IA limitam essa função.

Leia mais
Análise Impacto da IA generativa nas eleições de 2024 é real, mas pode ser menor que o alardeado

Aos Fatos enviou a lista dos bots para o Telegram e questionou a plataforma sobre os crimes facilitados pelas ferramentas, bem como sobre a suposta circulação de links com pornografia infantil em grupos na plataforma, mas não houve resposta. Os bots seguem funcionando.

A reportagem também enviou a autoridades as planilhas com todos os dados coletados. A Polícia Federal disse que “o fato de um eventual crime ocorrer no ‘ambiente virtual’” não faz com que a investigação seja de sua competência, remetendo o caso para as polícias estaduais. Já o Ministério Público Federal informou que não comentaria. Os ministérios da Justiça e Segurança Pública, dos Direitos Humanos e da Cidadania e das Mulheres não responderam.

Reprodução de chat do Telegram mostra mensagem automática em que robô afirma que dados não serão coletados e que usuário deve ser maior de 18 anos
Termos de uso. Apesar de afirmar em instruções que usuário deve ser maior de 18 anos, bot não exige comprovação de idade para uso da ferramenta (Reprodução/Telegram)

PRIVACIDADE EM RISCO

A disseminação dos falsos nudes gerados por IA ameaça fugir ao controle dos usuários das ferramentas. Embora muitos robôs prometam não armazenar as fotografias enviadas ou as imagens eróticas geradas, o usuário não tem nenhuma garantia de que o conteúdo será apagado do banco de dados, havendo o risco de que seja divulgado em outras partes da internet.

A forma de funcionamento dos robôs também dificulta a identificação de seus criadores e, quando existentes, os termos de prestação de serviços servem mais para tentar evitar a responsabilização legal do que para fornecer garantias:

  • Doze robôs mencionam a existência de termos de uso genéricos;
  • Na maioria dos casos, os bots afirmam que a ferramenta é destinada a maiores de 18 anos. Não há, no entanto, qualquer procedimento para atestar a idade do usuário;
  • Os termos também dizem que os criadores dos bots não se responsabilizam pelas fotos enviadas e que se reservam o direito de reportar imagens de menores de idade para “autoridades apropriadas”;
  • Não há, no entanto, nenhum mecanismo que impeça o usuário de usar o robô para gerar fotos de menores de idade, tampouco é citado quem seriam essas autoridades;
  • A maioria dos termos estão hospedados em blogs anônimos e em contas do Google Drive ou são atribuídos a sites que fornecem os mesmos serviços;
  • Apenas dois robôs geram imagens com marcas d’água.
Leia mais
Explicamos O que é inteligência artificial generativa e quais riscos ela representa no combate à desinformação

Todos os serviços oferecem a possibilidade de compra de créditos ou pontos, que podem ser convertidos na geração de imagens falsas. As compras geralmente são feitas por meio de plataformas de pagamento e criptomoedas, o que indica uma tentativa de ocultar a identidade dos responsáveis. Outros casos permitem pagamento com plataformas estabelecidas, como PayPal e Google Pay, além de cartões de crédito.

Denúncias. A SaferNet oferece um guia que explica o que fazer quando se foi vítima da publicação de um conteúdo íntimo sem autorização. Nele, a organização recomenda:

  • Guardar o máximo de provas possíveis, como prints de redes sociais e conversas em aplicativos;
  • Se tiver a intenção de processar o autor, registrar o material guardado em um tabelionato de nota, na forma de ata notarial, para atestar sua veracidade;
  • A vítima ou seus responsáveis legais devem também fazer um boletim de ocorrência na delegacia mais próxima ou, se houver, em uma delegacia especializada em crimes cibernéticos ou delegacia da mulher;
  • Denunciar o conteúdo às plataformas digitais onde ele está circulando e pedir sua remoção dos buscadores, como do Google — se as empresas não fizerem a remoção, elas poderão ser responsabilizadas na Justiça com base no art. 21 do Marco Civil da Internet;
  • Se a imagem for de uma pessoa menor de idade, fazer denúncia de pornografia infantil para a Safernet através do link www.denuncie.org.br.

As vítimas da divulgação abusiva de imagens íntimas não consensuais também podem denunciar na ferramenta gratuita StopNCII.org, que usa tecnologia para, por meio de parceria com as plataformas digitais, banir tanto os originais como as cópias das imagens.

Referências:

1. Planalto (1 e 2)
2. CNN Brasil
3. Olhar Digital
4. Global News
5. SaferNet (1 e 2)
6. StopNCII.org

Topo

Usamos cookies e tecnologias semelhantes de acordo com a nossa Política de Privacidade. Ao continuar navegando, você concordará com estas condições.