Fotos de conflito entre Israel e Hamas geradas por IA são vendidas por banco de imagens

Logo no primeiro dia de novembro, o Aos Fatos publicou uma reportagem sobre uma tendência desinformativa que surgiu nas redes em meio ao conflito entre Israel e Hamas: o compartilhamento de imagens geradas por IA (inteligência artificial) como se fossem registros reais.

Esses conteúdos falsos mostram crianças chorando, jovens fugindo de tiroteios e até registros do momento exato em que uma bomba explode o quarto onde estava um bebê. Todos eles, é claro, têm iluminação impecável e enquadramento que parece ter sido retirado de um filme de Wes Anderson. Além de falsas, as cenas “suavizam” um confronto que já deixou mais de 12 mil mortos.

Como se já não bastasse o problema causado por usuários e políticos divulgando imagens geradas artificialmente como se fossem cenas reais, há também conteúdo criado por IA sobre Israel e Palestina sendo vendido para veículos de imprensa, que usam as imagens para ilustrar reportagens sobre o conflito.

Banco de imagens. Maioria dos resultados principais da busca sobre o conflito foram gerados por inteligência artificial (Reprodução/Adobe Stock)

Ao procurar por “conflito israel palestina” no site da Adobe Stock Photo, os primeiros resultados são, em sua maioria, imagens produzidas por IA. Aos Fatos identificou que alguns desses conteúdos vendidos pela base da Adobe, inclusive, têm sido publicados em sites brasileiros e estrangeiros como se fossem reais.

Explosão. Imagem gerada por IA disponibilizada pela Adobe foi utilizada em ao menos cinco sites de língua portuguesa para ilustrar conflito (Reprodução)

Em nota ao portal VentureBeat, a Adobe afirmou que a “Adobe Stock é uma base que exige que todo o conteúdo generativo de IA seja rotulado como tal quando enviado para licenciamento. Essas imagens específicas foram rotuladas como IA generativa quando foram enviadas e disponibilizadas para licença de acordo com esses requisitos. Acreditamos que é importante que os clientes saibam quais imagens do Adobe Stock foram criadas usando ferramentas generativas de IA”.

O problema, denunciado também por outros sites, como o australiano Crickey, é que portais em diversas línguas têm usado essas imagens sem trazer qualquer aviso semelhante ao leitor.

Conforme explicado por especialistas entrevistados pelo Aos Fatos, o uso indiscriminado de conteúdos gerados por IA pode resultar em menos destaque para imagens reais e servir de pretexto para detratores colocarem em dúvida a credibilidade de fotos verdadeiras do conflito.

A discussão também extrapola os limites da checagem. A venda e utilização dessas imagens esbarra em questões regulatórias: um conteúdo criado por inteligência artificial pode ter direitos autorais? Nos EUA, por exemplo, uma juíza entendeu que não, uma vez que o trabalho não tem participação de mãos humanas.

Disso, nasce outra questão: uma imagem gerada por IA poderia, então, ser vendida? Como não há transparência no método de produção dessas fotos e ilustrações, não é possível saber quais conteúdos alimentaram a base de dados da ferramenta.

Nada impede, por exemplo, que o responsável por gerar o registro falso tenha alimentado o banco de dados da ferramenta generativa com fotos e desenhos que possuem direitos autorais sem o consentimento dos artistas responsáveis.

Como qualquer discussão ligada à inteligência artificial, há mais perguntas do que respostas. Enquanto isso, com o rápido aprimoramento da tecnologia generativa, é de se esperar que seja cada vez mais difícil distinguir uma foto real de um conteúdo gerado por máquinas.

Aos Fatos enviou os seguintes questionamentos à Adobe Stock Photo:

• Quais os critérios para que uma pessoa venda imagens geradas por IA na Adobe Stock Photo?
• Como a Adobe garante que o autor da imagem gerada por IA é, de fato, a pessoa responsável por sua criação?
• Como a Adobe garante que a imagem gerada por IA disponibilizada para venda não utiliza bases com fotos que possuem direitos autorais?

Até a publicação desta newsletter, no entanto, não houve resposta.