2017/08/17

Censura automática do YouTube está a eliminar vídeos com crimes de guerra


O problema de criar ferramentas para detecção automática de conteúdos indesejados é o de que, inevitavelmente, se vão remover conteúdos que necessitam ser vistos, e isso volta a acontecer com o novo sistema de censura automática no YouTube.

A Google implementou recentemente um novo sistema que tenta identificar e remover vídeos extremistas, mas o problema é que também está a remover vídeos que documentam crimes de guerra. Têm desaparecido do YouTube vídeos que mostram o ISIS a destruir património da humanidade, assim como vídeos que até foram usados como provas no julgamento de Chelsea Manning.

O mais frustrante, para quem vê estes vídeos serem removidos, ou até a suspensão das suas contas do YouTube, é que os pedidos para que os casos sejam reanalisados resultam invariavelmente numa resposta do tipo "analisamos o caso novamente, mas continuamos a achar o mesmo e por isso fica tudo bloqueado" (eu que o diga, que num artigo relativo a questões de privacidade - do vibrador bluetooth que enviava dados para o fabricante sem consentimento dos utilizadores - a Google continua a penalizar-me por achar que se trata de um artigo pornográfico; e um pedido de re-análise do mesmo também veio com a mesma resposta que nos faz perder as esperanças de que alguém humano olhe para o assunto com olhos de ver.)

Claro que neste caso do YouTube as coisas são bem mais preocupantes, pois este crivo dos conteúdos indesejados arrisca-se a apagar do conhecimento público todo o tipo de situações que deveriam permanecer documentadas.

... Imagine-se que por altura do massacre de Santa Cruz em Timor, também se tinha um sistema automático que considerasse o vídeo extremista e impróprio para ser divulgado?...

2 comentários:

  1. Cá está: Quem é que fica a ganhar com estes avanços tecnológicos?
    Os que já detêm o poder e são capazes de decidir pelos outros.
    Os avanços teológicos não estão a colocar as pessoas como prioridade, mas antes as empresas e os modos de pensar dominantes, controlados pelas empresas.
    Claro que não nego a necessidade de se evitar dar poder aos terroristas, mas o "preço" que se tem de pagar para se conseguir manter um mínimo de justiça e igualdade para não tratar mal aqueles que respeitam as leis, é evitar a automatização desenfreada e apostar em mais presença humana nessas tarefas-chave para o efeito: certas coisas, só os humanos (ainda) são capazes de fazer.

    ResponderEliminar
  2. E a tendência é para continuar. As intenções são sempre "muito boas", agora a moda é banir nazis, mas é fácil imaginar os danos colaterais.

    https://techcrunch.com/2017/08/18/google-documenting-hate-news-index-propublica/a/

    “It is one of the first visualisations to use machine learning to generate its content using the Google Natural Language API, which analyses text and extracts information about people, places, and events,” Google News Lab Data editor Simon Rogers writes in the announcement.

    Estou para ver a quantidade de falsos positivos... E a dificuldade de sair da lista pública quando acontecer.

    ResponderEliminar

[pub]