Já todos terão sido confrontados pelos curiosos testes CAPTCHA, que têm como objectivo demonstrar que está uma pessoa real a efectuar uma operação, e não um qualquer script automatizado ou bot. Devido à facilidade com que estes "bots" podem superar alguns testes, estes sistemas foram evoluindo ao longo dos anos, e actualmente chegam a cenários extremos em que por vezes nem sequer um humano consegue identificar os números e letras que são apresentados. Ou, como no caso que se segue, fazem desesperar os utilizadores que responderem correctamente, por estarem à espera de uma resposta errada.
Alguns destes testes apresentam várias imagens aos utilizadores, pedindo-lhes que seleccionem imagens com um determinado elemento. Uma técnica simples para alimentar os sistemas de machine learning à custa do trabalho gratuito dos utilizadores. O problema é quando algumas dessas imagens ficam mal classificadas.
Num dos testes, é pedido aos utilizadores que seleccionem todas as imagens com parquímetros, e quem o fizer correctamente irá ser surpreendido com um teste falhado. Isto porque o teste só considerará que o utilizador respondeu correctamente quando também seleccionar uma imagem de uma caixa de correio que erradamente pensa que também é um parquímetro.
5/ CAPTCHA gaslighting is the best way to get humans to accept their new robot overlords. - Machine Learning pic.twitter.com/qOatrNbUvB
— John Scott-Railton (@jsrailton) March 15, 2021
Se o objectivo era fazer com que os humanos contribuíssem para ensinar os sistemas de inteligência artificial, eis que o resultado prático está a ser precisamente o oposto, com a Inteligência Artificial a desensinar os humanos.
Skynet.
ResponderEliminar