Virais no TikTok atribuem poderes mágicos à IA e espalham desinformação sobre a tecnologia

Compartilhe

Vídeos no TikTok com hashtags relacionadas a inteligência artificial somam mais de 78 bilhões de visualizações. Entre esses conteúdos estão dicas de ferramentas, debates sobre o tema e vídeos gerados inteira ou parcialmente com o uso de IA.

A própria plataforma disponibiliza filtros de voz e de imagem que usam a tecnologia, com a exigência de que esses conteúdos sejam sinalizados como mídia sintética ou manipulada por meio de legenda ou hashtags.

“Apreciamos a criatividade que a nova inteligência artificial (IA) e outras tecnologias digitais podem trazer. No entanto, a IA pode dificultar a distinção entre fato e ficção, acarretando riscos sociais e individuais. Mídias manipuladas ou sintéticas que mostrem cenas realistas devem apresentar informação clara sobre a natureza do conteúdo”, dizem as diretrizes do TikTok.

No entanto, as regras não são suficientes para evitar a descontextualização de ferramentas de IA e a disseminação de desinformação.

  • O Aos Fatos analisou 368 vídeos em destaque das cinco principais hashtags relacionadas a inteligência artificial na plataforma: #ia, #inteligenciaartificial, #ai, #artificialintelligence e #aifilter;
  • Juntos, os conteúdos analisados somam mais de 4 bilhões de visualizações;
  • Desses, 51 (14%) distorciam o uso de ferramentas de IA ou disseminavam desinformação sobre a tecnologia;
  • Esses conteúdos foram vistos quase 650 milhões de vezes;
  • Entre eles estão trends — tendências de conteúdos virais — que atribuem falsas capacidades a ferramentas de IA.
Leia mais
Investigamos Empresas e universidades buscam padrão para identificar imagens geradas por IA

Uma delas — presente em sete dos vídeos analisados com mais de 78 milhões de visualizações — sugere que um filtro do TikTok usado para transformar imagens gravadas em desenhos de estilo japonês também pode revelar almas penadas.

“Será que essa cômoda de brechó trouxe fantasmas?”, questiona vídeo com mais de 37 milhões de visualizações, no qual o filtro desenha a figura de uma mulher sobre a gravação de um quarto vazio.

Em outra trend, o mesmo filtro é usado para fazer revelações amorosas.

Vídeo no Tiktok diz que filtro de inteligência artificial pode prever o futuro
CartomantIA. Vídeo no TikTok diz que filtro desenha anéis nos dedos de quem já encontrou sua alma gêmea.(Reprodução)

Além dos filtros, falsos poderes de oráculo também são atribuídos a ferramentas de IA que geram imagens a partir de texto. Vinte dos vídeos analisados, somando mais de 190 milhões de visualizações, pediam para que essas tecnologias previssem o futuro ou revelassem novas versões para fatos históricos, reforçando teorias conspiratórias.

“Pedi à inteligência artificial que representasse como a Rainha Elisabeth II realmente morreu”, diz a legenda de vídeo que mostra a monarca britânica, morta no ano passado, cercada de trevas. O mesmo perfil publicou imagens geradas por IA que revelariam o futuro, além da verdadeira morte da princesa Diana e, ainda, a extinção da humanidade. Os vídeos são acompanhados de músicas com tom de suspense e geram debate sobre sua veracidade nos comentários.

Em um publicação gerada por IA que prometia mostrar a “verdadeira causa” do naufrágio do Titanic, usuários debatiam se as imagens geradas realmente seriam um iceberg — versão oficial do acontecimento — ou outros fatores. “Não sei vocês, mas eu vejo a barbatana de um tubarão enorme”, dizia um dos comentários. “Há uma história de que mandaram afundar o navio de propósito porque ele levava várias pessoas ricas e poderosas que muitos queriam que desaparecessem”, sugeriu outro.

Vídeo no Tiktok pede que inteligência artificial revele real causa do afundamento do Titanic
ConspiracionistAI. Vídeo viral pede que inteligência artificial revele real causa do afundamento do Titanic

Em uma subcategoria dessa trend, conteúdos mostram representações em inteligência artificial de pessoas envolvidas em crimes reais contando suas supostas versões dos fatos. Por exemplo, um vídeo com mais de 15 milhões de visualizações mostra uma animação com a aparência do apresentador e artista plástico mexicano Rui Torres contando sobre sua morte. A reportagem identificou outros três vídeos como esse que somam mais de 65 milhões de visualizações.

Deepfakes. O Aos Fatos também identificou 11 vídeos, somando 151 milhões de visualizações, que usam ferramentas de deepfake de imagem ou de voz. Esse tipo de tecnologia é usada para substituir o rosto ou a voz de uma pessoa por outra em vídeos.

Para esse tipo de publicação, além de exigir a sinalização, a plataforma possui mais restrições:

  • Proíbe a publicação de conteúdos sintéticos que usem imagens de menores de 18 anos e de pessoas não públicas;
  • Proíbe conteúdos sintéticos que usem imagens de pessoas públicas maiores de idade para endosso político ou comercial ou ainda se violar qualquer outra política do aplicativo.

A maioria das deepfakes encontradas têm contexto humorístico e retratam pessoas públicas — como o empresário Elon Musk e os presidentes dos Estados Unidos Donald Trump e Joe Biden. Desta forma, elas não violam diretamente as regras da plataforma.

No entanto, ao serem compartilhadas em outras redes sociais podem perder a sinalização e serem confundidas com conteúdos reais. É o caso das imagens do papa Francisco usando um casacão branco que viralizaram em março.

No TikTok, um vídeo com essas fotos tem mais de 16 milhões de visualizações e a sinalização de que se trata de uma mídia sintética só está presente entre as hashtags de marcação, que não acompanham o compartilhamento do arquivo em vídeo. O conteúdo somou mais de 92 mil compartilhamentos.

Leia mais
Investigamos Uso do ChatGPT gera conflitos na sala de aula e acusações de plágio sem provas

Outro exemplo é um vídeo com imagens geradas pela ferramenta Midjourney de atores de Hollywood com roupas cor de rosa, como se estivessem indo assistir ao filme da Barbie. No TikTok, o conteúdo estava acompanhado das hashtags #inteligenciaartificial e #midjourney. No entanto, a reportagem identificou o mesmo conteúdo em diferentes redes sociais sem a sinalização. No Instagram, o conteúdo atingiu mais de 850 mil visualizações.

Vídeo feito por IA mostra atores de Hollywood vestidos de cor de rosa como se fossem assistir ao filme da Barbie
Olá, Barbie. Vídeo feito por IA circulou como se fosse real no YouTube, Instagram e Facebook

Guerra das máquinas. Sem usar diretamente ferramentas de IA, nove dos vídeos analisados disseminam falsas alegações sobre a tecnologia. A maioria gira em torno da ideia de que as máquinas estariam desenvolvendo vontades próprias ou desafiando a humanidade.

Um vídeo que mostra um suposto robô inteligente desligando sozinho por não querer mais trabalhar atingiu mais de 24 milhões de visualizações no TikTok. Na verdade, a máquina não possuía tecnologia de inteligência artificial e sua queda foi devido a um problema de software.

Outra gravação dissemina o falso boato de que duas máquinas equipadas com inteligência artificial teriam criado uma linguagem própria por isso teriam sido desligadas.

Quatro dos vídeos analisados ainda mostram falsas interações com ferramentas de inteligência artificial para desinformar sobre a tecnologia. Um deles alega que o chatbot Simon Says teria sido capaz de adivinhar quantas pessoas haviam na sua sala e que ele estaria gravando um TikTok. No entanto, o vídeo não mostra a real interação entre o usuário e a ferramenta, sendo desmentido por outros conteúdos na plataforma.

Leia mais
Investigamos Projeto de lei sobre IA já nasceu defasado e representa desafios de regular novas tecnologias

Outro lado. O Aos Fatos enviou ao TikTok os 51 vídeos que descontextualizam ferramentas de inteligência artificial ou desinformam sobre a tecnologia questionando se os conteúdos violam as regras da plataforma, mas não obteve resposta até a publicação da reportagem.

Após o contato, três dos vídeos foram removidos da plataforma.

  • Dois deles traziam dicas de como burlar regras do ChatGPT;
  • Um mostrava uma imagem gerada artificialmente de uma pessoa envolvida em um crime real;
  • E um quarto vídeo, que trazia representação de inteligência artificial de como será a “última selfie do planeta”, recebeu um aviso de “conteúdo sensível”.

Compartilhe

Leia também

falsoChina não homenageou Palestina em uniforme criado para a Olimpíada de Paris

China não homenageou Palestina em uniforme criado para a Olimpíada de Paris

falsoÉ montagem foto que mostra Kamala Harris ao lado de Jeffrey Epstein

É montagem foto que mostra Kamala Harris ao lado de Jeffrey Epstein

Brechas de plataformas permitem exploração de crianças, denunciam moderadores

Brechas de plataformas permitem exploração de crianças, denunciam moderadores