2018/05/25

Echo da Amazon gravou conversa privada e enviou-a para outra pessoa


Quem se preocupar com a possibilidade dos seus dispositivos inteligentes poder estar a escutar tudo o que dizem, eis que surge um estranho relato que parece resultar de uma muito improvável sequência de eventos.

Um casal norte-americano ficou extremamente surpreendido quando um funcionário seu, que trabalhava noutro estado, lhes disse ter recebido uma mensagem contendo uma gravação de uma conversa entre ambos, feita em sua casa pelo seu Amazon Echo, e que lhe tinha sido enviada pela Alexa. Depois de contactarem a Amazon a pedirem satisfações, eis o que parece ter acontecido segundo os registos da Amazon.

O Echo existente na casa do casal activou-se durante uma conversa do casal, em resposta a uma palavra que foi interpretada como sendo "Alexa"; logo de seguida, o Echo interpretou a conversa que decorria entre ambos como sendo um comando "send message" (enviar mensagem), tendo feito uma pergunta em voz alta "to whom?" (para quem), continuando a interpretar a conversa - que prosseguia alheia a tudo isto - como sendo o nome de um contacto. Nesta altura a Alexa terá pedido a confirmação de "é para esta pessoa, certo?", e prontamente interpretado a conversa ambiente como sendo uma confirmação... e que resultou no envio da conversa para o tal contacto.

É uma sequência de eventos bastante improvável: reconhecer "Alexa"; reconhecer o comando "Send Message"; reconhecer o nome de um contacto; reconhecer uma confirmação à pergunta de verificação; tudo a partir do "ruído ambiente" durante uma conversação casual que não era dirigida à Alexa... mas que este caso parece demonstrar que é possível.

A Amazon diz que irá fazer alterações para minimizar a possibilidade de que situações assim ocorram, mas parece-me que, se estes casos vão acontecendo com alguns poucos milhões de utilizadores... imagine-se o que poderá acontecer quando forem centenas de milhões a usarem equipamentos que os "escutam" em casa. Recentemente, quando estava a usar o Nexus 6, cheguei ao ponto de ter que desactivar o reconhecimento "Ok, Google", porque frequentemente quando o desbloqueava dava com ele a ter feito alguma pesquisa de algo que tinha dito (felizmente no Huawei P20 isso não tem acontecido, talvez tenha um reconhecimento de voz melhorado). Pelo que me parece que, se de um lado teremos assistentes digitais cada vez mais capazes; por outro lado também vão aumentando as probabilidades para as "más interpretações" com consequências imprevisíveis...

Sem comentários:

Enviar um comentário (problemas a comentar?)

[pub]