2018/10/12

AI da Amazon para seleccionar candidatos aprendeu a dar preferência a Homens


Vivemos numa época em que a inteligência artificial está na moda e tem sido aplicada como solução para todo o tipo de problemas; mas há que ter muito cuidado com os ensinamentos que são dados a estes sistemas, como a Amazon recentemente descobriu a propósito de uma ferramenta de selecção de candidaturas de emprego.

Ninguém apreciará examinar centenas ou milhares de currículos em busca do candidato ideal. Para a Amazon, essa era uma tarefa para a qual a Inteligência Artificial poderia dar uma preciosa ajuda, de modo a que se lhe atirasse todos os currículos dos candidatos e a AI mostrasse apenas os candidatos mais adequados. Infelizmente, a sua implementação na prática acabou por revelar um fenómeno curioso: uma vez que o sistema foi treinado com base nas selecções que tinham sido feitas manualmente ao longo dos 10 anos anteriores... acabou por aprender também a tendência que existia, de dar preferência aos homens face às mulheres.

O sistema de "inteligência" acabou por espelhar apenas o comportamento habitual na sociedade, que iria perpetuar caso não tivesse sido detectado e suspenso (este caso remonta a 2015); mas este é um problema recorrente nos sistemas de inteligência artificial e machine learning, onde a utilização de dados tendenciosos irá comprometer o funcionamento isento do sistema - se é que era esse o objectivo.

Mesmo para quem não tenha uma visão apocalíptica dos sistemas de A.I. como a que algumas pessoas têm, isto poderá servir como mais um sinal de alerta de que, ao querermos dar inteligência às máquinas, será obrigatório tomar as devidas precauções para garantir que elas aprendam com os nossos erros, e não a cometê-los!

5 comentários:

  1. Analisando friamente uma máquina iria achar ilógico contratar um funcionário que pode ficar no mínimo 5 meses sem trabalhar por licença maternidade (às vezes mais tempo se a gravidez é de risco), entrar uma hora mais tarde e sair uma hora mais cedo para poder amamentar. Por isso as máquinas precisam de curadoria. Nisso a IBM está muito à frente com o Watson.

    ResponderEliminar
    Respostas
    1. Nesses casos, a IA iria balancear com o risco de processos de assédio sexual nas contratações do género masculino e a tendência devia voltar a ficar equilibrada. 😁

      Eliminar
  2. Ou se coloca a AI ao serviço da humanidade em geral e não das organizações em particular (considerando que todos necessitamos de todos para obter uma sociedade mais justa) ou os seres humanos deixam mesmo de ter qualquer relevância num mundo onde as máquinas conseguem aprender e tomar decisões.

    ResponderEliminar
  3. Certamente que a AI iria ponderar o efeito no futuro da espécie humana, que não se reproduz com copy paste...

    ResponderEliminar

[pub]