2020/01/05

TikTok preparava-se para facilitar Deepfakes (e recolher dados biométricos faciais no processo)


Foi descoberta uma funcionalidade para criação de deepfakes dentro da app TikTok, que está a ser "negada" pela empresa ByteDance que criou a app, e que pedia o scan biométrico do rosto dos utilizadores.

Investigadores descobriram dentro da app TikTok uma funcionalidade, por agora desactivada, chamada Face Swap que permitiria aos utilizadores aplicarem o seu próprio rosto a uma série de vídeos disponibilizados - criando aquilo a que habitualmente se chama deepfakes. Não seria a primeira vez que uma app disponibilizaria algo deste tipo (o Snapchat também tem um FaceSwap), mas as ligações à China e o facto da funcionalidade fazer uma leitura biométrica do rosto dos utilizadores está a levantar sérias preocupações, que aumentam de nível com a falta de explicações da ByteDance, que tem insistido que a app não tem nada disso.


É que para criar o efeito final convincente, esta funcionalidade, que foi activada de forma não oficial pelos investigadores, pede aos utilizadores que passem por um processo de validação do seu rosto, movendo a cabeça em diversas direcções - tal como é feito no processo de registo inicial do Face ID da Apple e de outros sistemas de reconhecimento facial.

Embora seja dito que esses dados não serão usados para outros fins, significa que a ByteDance poderia criar uma base de dados com informação biométrica do rosto de todos os utilizadores que experimentassem esta funcionalidade.

Tendo em conta o mundo actual em que vivemos, e por muitas boas intenções que pudessem existir por trás desta funcionalidade (é inevitável que a criação de deepfakes se vá tornando cada vez mais simplificada e acessível), é um risco que se torna demasiado elevado para se poder tratar como "brincadeira".

Sem comentários:

Enviar um comentário (problemas a comentar?)

[pub]