Como a IA refinou os métodos de golpistas ao longo de 2023

A indústria dos golpes digitais segue a todo vapor. Levantamento preliminar feito pela ADDP (Associação de Dados Pessoais e Consumidor) com base em dados do Fórum Brasileiro de Segurança Pública, informações do Procon e relatórios de consultorias mostra que o estelionato virtual no país cresceu entre 25% e 35% no país no ano passado.

Na prática, isso pode ser demonstrado pelas diversas reportagens publicadas pelo Aos Fatos nos últimos meses, com destaque para uma que publicamos nesta quinta-feira (18), sobre os impactos do golpe que gerou uma crise inédita para a Havan.

Mas a fraude no meio virtual não aumentou apenas quantitativamente. A experiência da cobertura mostra também que os golpistas refinaram suas táticas ao longo de 2023, especialmente com o uso de IA.

Até o início do ano passado, havia uma certa limitação nos golpes, que se concentravam em três frentes:

• Perfis falsos compartilhavam imitações mal feitas de sites jornalísticos para inventar que a imprensa teria noticiado alguma campanha promocional da varejista;
• Outra estratégia comum era compartilhar vídeos editados de celebridades para promover supostos medicamentos para emagrecer, melhorar o desempenho sexual e tratar uma ampla gama de problemas de saúde;
• Também eram disseminados links fraudulentos para sites que simulavam aplicativos oficiais e prometiam lucro por curtir, avaliar ou assistir a conteúdos nas redes.

Aos poucos, no entanto, a pauta dos criminosos foi se atualizando — e os golpes passaram a mirar questões ligadas a mudanças econômicas e políticas públicas. Estelionatários passaram então a compartilhar trechos editados de reportagens de emissoras de TV sobre programas públicos e privados para enganar usuários, que eram levados a pagar falsas taxas de administração para acessar serviços como:

• O SVR (Sistema de Valores a Receber) do Banco Central, lançado em fevereiro de 2022, que permite consultar valores “esquecidos” em contas antigas;
• O Desenrola Brasil, programa federal de renegociação de dívidas lançado em julho do ano passado pelo presidente Luiz Inácio Lula da Silva (PT);
• O Feirão Limpa Nome — mutirão anual de negociação de dívidas do Serasa.

A guinada não ocorreu só na temática, também houve refinamento nos métodos. A edição dos vídeos, por exemplo, ficou mais elaborada, com a inclusão de vozes e imagens extraídas de fontes similares às verdadeiras.

Assine já a newsletter do Radar Aos Fatos e receba a cada quinze dias técnicas de investigação com dados abertos

Ainda havia, no entanto, determinadas características que tornavam as fraudes um tanto quanto rudimentares: as páginas usavam plataformas de pagamento não oficiais, o valor das supostas dívidas ou cifras a receber eram os mesmos para qualquer número de CPF e era possível inserir quaisquer caracteres no campo destinado ao nome, além de sequências numéricas com dezenas de dígitos, uma vez que não havia qualquer verificação dos dados.

Esse cenário começou a mudar a partir do golpe da devolução do ICMS cobrado da conta de luz, desmentido pelo Aos Fatos em agosto do ano passado. A fraude foi a primeira a incluir um código para validar números de CPF a partir dos dígitos verificadores.

As formas de disseminar a fraude também evoluíram. Antes restritos aos anúncios publicados nas redes, que usavam estratégias para burlar a moderação, os estelionatários passaram a contar com o serviço de influenciadores, que divulgavam os golpes em troca de dinheiro em um esquema similar ao de marketing de afiliados.

A partir do fim do ano passado, popularizaram-se enfim as fraudes que usavam a IA, seja para produzir áudios e vídeos falsos verossímeis — caso do leilão da Magazine Luiza e da promoção de celular da Havan —, seja para criar chatbots que simulavam uma verificação real das informações fornecidas pelas vítimas, situação observada nos golpes que prometiam a distribuição de ceias de Natal ou aparelhos de ar-condicionado.

Outro exemplo de conteúdo fraudulento que abusou da inteligência artificial para enganar é o jogo Subway Money, também compartilhado nas redes com os nomes Subway Pay e Subway Pix. Para alegar que um título similar ao clássico Subway Surfers permitiria que usuários ganhassem dinheiro de verdade, estelionatários usaram vídeos falsos de jornalistas, influenciadores digitais e até do presidente Lula.

Com a criação de conteúdos fraudulentos cada vez mais verossímeis, é de se pensar que cabe às plataformas ajudar o cidadão comum a determinar o que é ou não verdade. Reportagens publicadas pelo Aos Fatos nesta semana, no entanto, dão a real dimensão do problema ao apontar que falhas de moderação permitiram que golpes viralizassem nas redes — gerando, inclusive, lucro para a Meta.

Diante da omissão das big techs, é necessário que sejam criadas ferramentas com alto grau tecnológico que permitam combater a fraude digital em larga escala. Enquanto isso não acontece, seguiremos aqui, acompanhando de perto e frustrando aqueles que escolhem o caminho do crime.

🛠️ CAIXA DE FERRAMENTAS

Boa parte dos golpes virtuais que desvendamos no Aos Fatos acontece em grupos e páginas abertas ao público. É possível, no entanto, que o seu algoritmo impeça que conteúdos como esse apareçam em seu feed. Como o trabalho do investigador digital tem como um de seus pré-requisitos navegar por outros mares, é importante recorrer a ferramentas que podem ajudar nessa missão.

• Para encontrar diferentes comunidades no Telegram, por exemplo, indicamos a Telemetrio, que cataloga grupos e canais abertos na plataforma por idioma, temática e país;
• Na tela principal, é possível ver, além do nome e da quantidade de inscritos do grupo ou canal, o total de visualizações dos conteúdos postados e a taxa de crescimento ou decrescimento no número de membros.