Campanha da "Mafaldinha" alvo de fraude deepfake

O lado negro das ferramentas AI já chegou à campanha da Mafaldinha.

No final do ano passado falei da campanha de angariação de fundos da Mafaldinha, filha de um amigo meu de longa data, e que sofre de uma doença rara (CTNNB1 Syndrome). Infelizmente, a campanha já atraiu a atenção de alguns grupos de burlões, que têm estado a lançar campanhas de publicidade com vídeos adulterados e que estão a chegar a dezenas de milhares de pessoas.

Os vídeos têm por base vídeos reais, de familiares e outras pessoas que apoiaram a campanha, mas foram manipulados com ferramentas AI para mudar aquilo que dizem, e obviamente, redireccionando os pedidos de donativos para as contas dos burlões.

A situação torna-se mais marcante e preocupante devido à conivência das plataformas envolvidas. Uma pesquisa no Facebook revela dezenas de campanhas publicitárias fraudulentas activas, referentes à Mafalda, com vídeos falsos - e todas as tentativas de reportar essas fraudes têm sido completamente ignoradas pela Meta/Facebook, dizendo que não encontram nada de errado!

Não deixa de ser totalmente ridículo que, quando se quer fazer publicidade legítima no Facebook se esteja sujeito a ser recusado por "colocar uma vírgula fora do sítio", mas quando se tratam de campanhas que usam vídeos fraudulentos adulterados, aí não consideram haver nada de mal! Refira-se, claro, que a Meta e Facebook lucram com estas campanhas fraudulentas!

Perante a indiferença do Facebook, a única solução tem sido apelar aos serviços de alojamento e domínios para invalidar os sites fraudulentos. Alguns dos sites já foram encerrados, mas os grupos por trás destas campanhas já estão habituados e preparados para isto, rapidamente lançando novos sites e campanhas publicitárias falsas actualizadas.


É assustador ver o nível de "industrialização" das burlas e fraudes, que - como se vê - nem sequer deixa escapar campanhas de solidariedade para crianças. Infelizmente, com a facilidade de acesso a ferramentas AI cada vez mais avançadas, este tipo de coisa será cada vez mais frequente, e com conteúdos que serão cada vez mais difíceis (ou impossíveis) de distinguir dos conteúdos legítimos. Sendo impossível parar essas ferramentas, a única coisa que se pode exigir é a responsabilização das plataformas que estão a suportar estas fraudes, assim como os serviços de pagamentos que permitem que se tornem lucrativas.

Até lá, fica o alerta para que, para a campanha da Mafaldinha (e para toda e qualquer outra campanha de solidariedade) se certifiquem que estão a mandar o dinheiro para a campanha legítima e não para uma campanha fraudulenta que nem hesita em usar vídeos de crianças manipulados para atingir os seus fins.