Facebook cria sistema de detecção de deepfakes

O Facebook diz ter criado um novo sistema capaz de identificar deepfakes, tanto em vídeos como em imagens estáticas.

Os deepfakes ainda não atingiram as proporções problemáticas que poderão atingir, mas o Facebook não está a facilitar. É apenas uma questão de tempo até que surjam apps que permitam criar deepfakes ultra-realistas sem necessidade de qualquer conhecimento técnico, e o Facebook já sabe que irá arcar com as culpas do que por lá for publicado pelos seus utilizadores.

Este sistema do Facebook diz ser capaz de não só identificar um deepfake, como até ser capaz de identificar a imagem base que foi utilizada para a sua criação.

Por um lado, será sempre positivo ter um sistema que permita, desde logo, acautelar uma potencial publicação abusiva identificando-a como sendo um deepfake. Mas, por outro lado, será preciso não esquecer que isto está a ser criado pela mesma plataforma que já tentou censurar mamilos e umbigos - o que não será propriamente um bom currículo para o impacto prático que esta tecnologia possa vir a ter, quando for implementada na prática.