2020/09/21

A detecção facial racista do Zoom e Twitter


O Twitter e o Zoom estão a ser criticados, depois de ter sido demonstrado que os seus sistemas de reconhecimento facial parecem dar prioridade aos rostos brancos, ou até nem reconhecer rostos negros.

O caso começou com um membro de uma faculdade que estava intrigado (e frustrado) por ficar literalmente sem cabeça quando usava as imagens de fundo virtuais do Zoom; tendo-se vindo a descobrir que o sistema do Zoom não reconhecia o seu rosto como rosto, e por isso fazia-o desaparecer.



Mas o caso depressa alastrou a outros serviços, mais concretamente ao Twitter. O Twitter também aplica um sistema de detecção de rostos para centrar a parte a apresentar no rosto que considera ser mais relevante. O problema é que, quando se põe o sistema à prova usando rostos brancos e negros, a preferência parece ir sempre para os rostos brancos.

Num teste feito com imagens verticais, com o rosto de Mitch McConnell no topo e Barack Obama no fundo, fez com que o Twitter apresentasse o rosto do Mitch McConnell. Quando se troca a posição dos rostos, o Twitter continua a dar preferência ao rosto de Mitch McConnell.


O Twitter diz que tinha testado o sistema antes de o activar para o público, e que não tinha detectado qualquer tendência racial; mas refere que este exemplo é algo que claramente irá obrigar a analisar mais cuidadosamente o que se passa. Outros, referem que este é um problema que nem sequer faz sentido existir, já que o Twitter poderia optar por simplesmente apresentar as imagens como são, ou sempre centradas, sem aplicar qualquer tipo de detecção facial. Uma opção que não está disponível para o Zoom, já que continua a ter que saber onde está um rosto, para aplicar os fundos virtuais correctamente.

Sem comentários:

Publicar um comentário (problemas a comentar?)

[pub]