Em setembro de 2024, foi publicado no Facebook um vídeo em que Ronaldo Fenômeno comparava quanto dinheiro um usuário poderia ganhar com um jogo online e com outras profissões no Brasil, como caixa de supermercado e motorista de ônibus. Muito mais, é claro. Era o que mostrava o convite.
A publicação foi impulsionada, teve mais de 600 mil visualizações e deve ter rendido um bom dinheiro para os produtores do joguinho. Só que tem um detalhe: o vídeo foi manipulado com o uso de IA (inteligência artificial). Ronaldo nunca foi garoto-propaganda do aplicativo.
Não era difícil perceber que tinha algo errado. O áudio não estava sincronizado com os movimentos labiais do ex-jogador e as profissões eram representadas por imagens irreais geradas por IA.
Tanto que um usuário percebeu. E reclamou. Uma vez, duas vezes, e nada. A peça falsa, um golpe, continuou no ar. Até que o caso chegou ao conselho de supervisão da Meta, empresa dona do Facebook, do Instagram e do WhatsApp.
Assine a newsletter Plataforma e receba análises sobre big techs e desinformação.
O Oversight Board, nome pomposo para esse conselho em inglês, reúne acadêmicos de várias áreas, jornalistas, advogados e membros da sociedade civil. É a instância que reavalia decisões tomadas pela própria Meta — e as torna públicas.
Foi assim que descobrimos que, de acordo com os controles internos da empresa, não há problema em um vídeo falso de um dos jogadores brasileiros mais famosos no mundo circular nas suas plataformas. Mais do que isso, a decisão do conselho, publicada há quase duas semanas, revela o desleixo da Meta ao lidar com estelionatários nas suas redes.
Uma vez que o caso chegou ao Oversight Board, o vídeo foi tirado do ar, já que violava várias políticas definidas pela própria empresa. A falta de ação, entretanto, parece ser menos um acidente de percurso e mais um sintoma de uma epidemia nas plataformas da Meta.
Uma reportagem publicada pelo Wall Street Journal no mês passado afirmou que a empresa vem se tornando cada vez mais “um pilar da economia da fraude na internet”. Os números levantados pelo jornal impressionam:
- Quase metade de todos os golpes denunciados no sistema de pagamentos instantâneos do banco americano JPMorgan Chase entre 2023 e 2024 tiveram origem nas plataformas da Meta;
- Uma proporção semelhante foi identificada por reguladores do Reino Unido e da Austrália;
- Uma análise interna da empresa, de 2022, apontou que 70% dos novos anunciantes ativos promovem golpes, produtos ilícitos ou de “baixa qualidade”.
Para nós, deste Aos Fatos, que acompanhamos o crescimento e a sofisticação dos golpistas no Facebook e no Instagram, nada disso surpreende. Contudo, o WSJ joga luz nos bastidores de decisões internas da empresa. E aí as coisas ficam mais interessantes.
De acordo com funcionários atuais e antigos ouvidos pela reportagem, a Meta reluta em criar travas para a compra de anúncios nas suas redes. Em 2024, o faturamento com publicidade foi superior a US$ 160 bilhões, um aumento de 22% em comparação com o ano anterior.
A empresa resiste a remover anunciantes, mesmo que sejam golpistas em série. Um documento de 2024 a que o jornal teve acesso apontou que usuários poderiam receber entre 8 e 32 “advertências” automatizadas por fraudes financeiras antes de terem as contas banidas.
A Meta também reduziu suas equipes que fiscalizavam fraudes desse tipo. A ênfase passou a ser evitar a remoção equivocada de anúncios, e não garantir que as publicidades na plataforma fossem seguras para os usuários. Planos para exigir a verificação de anunciantes — que existe no caso de anúncios políticos — também foram descartados pelo receio de perder receitas.
O diagnóstico feito pelo Oversight Board sobre a falta de ação da empresa é bem semelhante ao relato feito pelo Wall Street Journal. O conselho apontou que:
- Os revisores de conteúdo em larga escala não estão autorizados a remover publicações que usam imagens de “pessoas famosas na tentativa de aplicar golpes ou fraudar”, mesmo quando o conteúdo contém indicadores claros de violação de políticas da Meta;
- Esse conteúdo só pode ser removido por equipes especializadas, o que torna mais difícil a ação contra esse tipo de golpe na plataforma;
- Na tentativa de evitar que o vídeo real de algum famoso seja derrubado erroneamente, a empresa permite “uma quantidade significativa de conteúdo de fraude” em suas plataformas.
Em um tribunal federal nos Estados Unidos, a Meta alegou que “não tem o dever de proteger os usuários” contra fraudes e citou a seção 230 da Lei de Telecomunicações dos EUA, que protege plataformas de responsabilidade por conteúdo gerado por usuários.
Esta também é a questão fundamental do julgamento do STF (Supremo Tribunal Federal) sobre o artigo 19 do Marco Civil da Internet: as plataformas podem, ou não, ser responsabilizadas por conteúdos criminosos publicados por usuários? Até agora, a maioria dos ministros da corte decidiu que sim, há responsabilidade.
A alegação de que suas plataformas são um território “neutro”, apenas um meio de circulação de conteúdos produzidos por usuários, já não faz sentido há tempos, desde que a mediação algorítmica passou a determinar o que cada um vê. No entanto, esse ainda é o principal argumento das big techs.
Soluções para a epidemia de golpes na Meta foram listadas pelo próprio Oversight Board, como aumentar a equipe dedicada a lidar com denúncias de fraudes e fornecer indicadores claros de como identificar esse conteúdo.
Fica difícil para uma empresa que lucrou US$ 62 bilhões em 2024 argumentar que não há recursos suficientes para tornar suas plataformas um lugar mais seguro.
O que parece claro, porém, é que a Meta segue a cartilha comum às big techs ao querer todo o lucro possível e se recusar a assumir a responsabilidade pelas consequências de suas ações.
É a partir desse enquadramento que devem ser entendidos o lobby pesado no Congresso Nacional contra qualquer tentativa de regulação, a aproximação com a extrema direita e a tentativa de desmoralizar checadores de fatos.
Contudo, num contexto de avanço da IA generativa e sofisticação dos golpes, os danos econômicos e sociais provocados pela inação das plataformas não são aceitáveis e é preciso avançar na sua responsabilização.
