2018/07/27

Reconhecimento facial identifica políticos como criminosos


Forças da autoridade em diversos países têm-se deixado seduzir pela tecnologia do reconhecimento facial, mas nos EUA a ACLU decidiu demonstrar os pontos fracos dessa tecnologia aplicando-a ao rosto dos políticos.

Aplicando o sistema de reconhecimento de imagens Rekognition da Amazon aos rostos dos membros do Congresso, a ACLU constatou que 28 deles foram erradamente identificados como sendo criminosos - e isto usando apenas uma pequena base de dados com 25 mil "mugshots" publicamente disponíveis. Também sem surpresas, a taxa de erros no reconhecimento para pessoas de cor foi bastante mais elevada, também confirmando outra das críticas feitas a estes sistemas .


Este não é o primeiro exemplo de como a tecnologia facial é extremamente falível - há alguns meses, um relato do Reino Unido indicava que o seu sistema de reconhecimento facial tinha uma taxa de erros de 90%!

Entretanto a Amazon já veio defender o seu sistema de reconhecimento de imagens, dizendo que este teste usou um limite de confiança de 80% para considerar um rosto reconhecido, mas que esse nível é apenas adequado para a identificação de objectos. Para a identificação de pessoas a Amazon diz que seria recomendável usar um grau de certeza de 95% - valor que não é o que a Amazon tem activado de origem, e que a maioria dos utilizadores deste serviço não se preocupará em alterar.


Mesmo que não ouçam (ou entendam) os argumentos técnicos... talvez ao saberem que podem ser erradamente marcados como criminosos, estes políticos pensem duas vezes antes de aprovarem leis de vigilância indiscriminada com esta tecnologia.

3 comentários:

[pub]