Ferramentas de IA facilitam edições maliciosas de imagens de famosos

Por Luiz Fernando Menezes

29 de abril de 2024, 10h46

Desde que o Photoshop foi lançado pela Adobe em 1990, a edição de fotos se tornou muito mais fácil. O que antes era feito por meio de técnicas manuais — e um tanto quanto criativas — passou a ser muito mais acessível por meio da tecnologia. Por isso, é comum encontrar na internet tipos variados de edições de imagens.

É comum também que essas montagens sejam usadas para gerar desinformação e atacar pessoas. Apenas neste ano, Aos Fatos desmentiu desde manipulações que colocaram Janja em um vestido considerado feio até posts que usaram rostos trocados para tentar relacionar o presidente Lula (PT) ao assassinato da vereadora Marielle Franco (PSOL).

Leia mais
WHATSAPP Inscreva-se no nosso canal e receba as nossas checagens e reportagens

Paralelamente, também é possível “embelezar” uma personalidade por meio de manipulação digital. Em 2018, ano em que Jair Bolsonaro (PL) concorreu pela primeira vez à Presidência, circulou nas redes uma foto que supostamente o mostraria mais jovem (veja abaixo). Trata-se, no entanto, de uma versão editada de uma imagem registrada em julho de 2018.

Foto de Bolsonaro foi editada para incluir barba e deixá-lo mais jovem
'Bolsogato.' Montagem circulou como meme em 2018, mas também foi compartilhada como se fosse uma foto antiga de Bolsonaro (Reprodução/Facebook)

Seja qual for o objetivo — atacar um desafeto ou tornar alguém mais apresentável —, a edição certamente foi facilitada nos últimos anos com a popularização de ferramentas de inteligência artificial. Afinal, não é mais preciso ter conhecimento de Photoshop, Lightroom ou softwares semelhantes: é só escrever um comando.

E isso, é claro, tem inundado as redes de montagens.

Nas últimas semanas, viralizaram edições criadas por IA de diversas personalidades. Nem o CEO da Meta, Mark Zuckerberg, escapou: sua versão “bonitão” foi compartilhada em redes como o X (ex-Twitter) e o Facebook.

Comparação mostra rosto editado de Zuckerberg ao lado de rosto original
'Bonitão.' Edição usou frames de vídeo original publicado pelo CEO da Meta no início de abril (Reprodução/Instagram)

As publicações editaram frames de um vídeo para adicionar barba, diminuir os olhos e retirar manchas da pele do empresário. O vídeo original, no entanto, pode ser encontrado por meio de busca reversa. E o mais irônico é que a gravação em questão é justamente a que o CEO da Meta anuncia o lançamento da nova versão da ferramenta de IA da empresa.

Outra montagem que acumulou milhares de compartilhamentos no X foi a que mostrava “Jennifer Lopez e seu visual incrível aos 54 anos”.

Imagem criada por IA mostra Jennifer Lopez com vestido amarelo; círculos vermelhos apontam inconsistências
'54 anos.' Imagens que circularam como se fossem reais não mostravam sequer artista com o mesmo vestido (Reprodução/X)

Além de inconsistências típicas de imagens criadas por IA — como as mãos “furando o vestido” ou a alça do tecido estranhamente torta — a montagem ainda falsifica a constituição física da artista.

Montagens semelhantes, que podem ser encontradas em sites adultos e grupos no Telegram, também passaram a aparecer em outras redes, como X e Threads. Na última semana, circularam fotos que mostrariam a atriz Scarlett Johansson vestida como sua personagem do universo da Marvel, Viúva Negra.

Foto mostra Scarlett Johansson vestida de Viúva Negra de costas; círculos vermelhos apontam inconsistências
Viúva Negra. Imagem foi publicada originalmente em perfil especializado em imagens sensuais da atriz (Reprodução/Instagram)

A imagem, que foi publicada originalmente por um perfil no Instagram especializado em fotos — sejam elas reais ou fabricadas — da artista, também é perceptivelmente falsa: o reflexo na janela está incompleto, o líquido do copo está flutuando e os fios de cabelo acabam tomando um aspecto plástico em algumas partes.

Leia mais
Análise Fotos de conflito entre Israel e Hamas geradas por IA são vendidas por banco de imagens
Análise Inofensivas à primeira vista, imagens criadas por IA e edição digital geram desinformação

Enquanto a intenção da manipulação de Zuckerberg parece ser bem-humorada, as montagens de Lopez e Johansson explicitam dois problemas que acompanham a democratização das ferramentas de IA: a promoção de corpos irreais e o uso não autorizado de imagens de terceiros para fins eróticos.

Como trabalham a partir de bases de imagens já existentes, incluindo fotos digitalmente tratadas e ilustrações, essas ferramentas acabam reforçando padrões irreais de beleza alimentados pelas redes.

“[A IA] não inventa novos problemas – pelo contrário, amplia os problemas existentes na nossa cultura. O problema central, que está a prejudicar as pessoas, é uma cultura que significa que corpos irreais e idealizados são vistos como desejáveis ​​de formas que podem estar ligadas à publicidade ou a outros tipos de influência social” — Kevin Beale, membro do Massey’s Digital Culture Laboratory, em entrevista ao CapsuleNZ.

Edições pornográficas com rostos de famosas também não são um problema criado pelas ferramentas de IA, mas certamente se beneficiaram da disseminação da tecnologia.

Em janeiro deste ano, por exemplo, diversas imagens eróticas com o rosto da cantora Taylor Swift viralizaram, principalmente no X. Elas foram originalmente criadas em um grupo do 4Chan e logo se espalharam por outras redes.

Enquanto o Senado discute formas de regulação para essas ferramentas, mas ainda sem previsão ou perspectivas de sanar o problema, vale lembrar: além de todos os problemas morais e éticos envolvidos, criar imagens eróticas ou pornográficas de terceiros pode se enquadrar nos crimes contra a honra, previstos no Código Penal.

Topo

Usamos cookies e tecnologias semelhantes de acordo com a nossa Política de Privacidade. Ao continuar navegando, você concordará com estas condições.