2021/03/21

CAPTCHAs fazem desesperar humanos com erros de AI

Os testes CAPTCHA para provarmos que somos humanos chegaram ao ponto ridículo de obrigarem a seleccionar coisas erradas, por culpa da atribuição feita por Inteligência Artificial.

Já todos terão sido confrontados pelos curiosos testes CAPTCHA, que têm como objectivo demonstrar que está uma pessoa real a efectuar uma operação, e não um qualquer script automatizado ou bot. Devido à facilidade com que estes "bots" podem superar alguns testes, estes sistemas foram evoluindo ao longo dos anos, e actualmente chegam a cenários extremos em que por vezes nem sequer um humano consegue identificar os números e letras que são apresentados. Ou, como no caso que se segue, fazem desesperar os utilizadores que responderem correctamente, por estarem à espera de uma resposta errada.

Alguns destes testes apresentam várias imagens aos utilizadores, pedindo-lhes que seleccionem imagens com um determinado elemento. Uma técnica simples para alimentar os sistemas de machine learning à custa do trabalho gratuito dos utilizadores. O problema é quando algumas dessas imagens ficam mal classificadas.

Num dos testes, é pedido aos utilizadores que seleccionem todas as imagens com parquímetros, e quem o fizer correctamente irá ser surpreendido com um teste falhado. Isto porque o teste só considerará que o utilizador respondeu correctamente quando também seleccionar uma imagem de uma caixa de correio que erradamente pensa que também é um parquímetro.


Se o objectivo era fazer com que os humanos contribuíssem para ensinar os sistemas de inteligência artificial, eis que o resultado prático está a ser precisamente o oposto, com a Inteligência Artificial a desensinar os humanos.

1 comentário:

[pub]