Fotos de crianças no OneDrive podem bloquear conta Microsoft

O lado negro dos serviços na cloud pode fazer com que uma foto mal identificada bloqueie toda uma conta, com todos os dados e serviços associados.

Numa altura em que a edição de fotos no Grok tem estado sob polémica, por facilmente transformar mulheres e crianças vestidas em versões em bikini, surgem também relatos de como fotos inocentes podem fazer desaparecer anos ou décadas de dados dos utilizadores.

Há muito que vão surgindo relatos de utilizadores que se queixem de ficar com as contas bloqueadas sem justificação aparente, mas mais recentemente surgiu um caso de uma pessoa que diz claramente o que se passou. O utilizador em questão tinha tirado fotos dos filhos a fazer palhaçadas durante a passagem de ano, sendo que essas fotos foram automaticamente sincronizadas com o OneDrive (coisa que agora acontece automaticamente para todos os utilizadores desatentos). Ora, algumas dessas fotos terão sido incorrectamente classificadas pelo sistema AI como sendo "abuso de crianças", levando ao bloqueio da conta - e com isso, tudo o que estava associado, todos os dados no OneDrive, conta e compras Xbox, e o próprio email.

O mais assustador, é que apesar de ser algo que qualquer moderador humano facilmente poderia resolver olhando para as fotos, o processo de recurso para recuperar a conta foi recusado, deixando o utilizador sem qualquer forma de resolver o problema: todos os contactos telefónicos vão dar a bots que não oferecem forma de contacto com um humano, todos os contactos online obrigam a usar a conta Microsoft que está bloqueada.

Isto é algo que se arrisca a tornar cada vez mais frequente, à medida que mais e mais países vão insistindo na monitorização de conteúdos com a justificação de que é indispensável para combater abusos. Esperemos que, no processo, não se esqueçam de assegurar formas de defender também todos aqueles que forem erradamente apanhados pelos filtros automáticos, e que até podem resultar em processos criminais.