2018/05/11

Comandos de voz inaudíveis deixam assistentes digitais em risco


O aumento da inteligência dos assistentes capazes de entenderem os nossos comandos de voz fazem com que sejam bastante mais úteis e convenientes de utilizar, mas aumentam também os riscos de ataques cada vez mais criativos.

Por diversas vezes já ouvimos casos de clips publicitários, ou de alguma pessoa num qualquer programa de televisão, que vociferam um qualquer comando "ok google", "hey siri" ou "alexa" e fazem disparar milhares de dispositivos pelo mundo fora. Isso é algo que tem obrigado a cuidados especiais - por exemplo, a Amazon usa uma keyword "Alexa" nos spots publicitários, especificamente manipulada para não activar equipamentos - mas há também aqueles que têm tido cuidados especiais no sentido oposto... o de dar comandos a estes assistentes de forma dissimulada, mesmo quando os próprios utilizadores não os conseguem ouvir.

Investigadores têm demonstrado formas cada vez mais criativas de dar comandos de voz a estes assistentes que ficam escondidos em ruído, música, ou outros sinais sonoros, e que passam completamente despercebidos aos ouvidos humanos.


As potencialidades deste tipo de ataques tornar-se-ão cada vez maiores e mais apetecíveis para serem exploradas à medida que as capacidades destes assistentes também vai aumentando. Se por agora as maiores preocupações poderiam ser com o pedido de fazer um telefonema para uma linha de valor acrescentado; as coisas podem complicar-se ainda mais quando se começa a considerar a sua capacidade para destrancar portas, ligar ou desligar electrodomésticos, etc.

Nesse caso, tudo aquilo que normalmente seria uma comodidade e conveniência, pode tornar-se numa enorme inconveniência. Será preciso que parte da inteligência artificial que está a ser dada a estes assistentes seja também dedicada a determinar se quem está a dar os comandos é realmente o utilizador legítimo; não só fazendo isso através do reconhecimento de voz para identificar a pessoa (como a Google e Apple já fazem - no caso da Google até permitindo diferenciar entre diversas pessoas que moram em casa) quer através da análise de comportamentos anormais que possam causar desconfiança (por exemplo, uma pessoa que todos os dias sai de manhã para o trabalho e regressa a casa ao final da tarde, se por acaso surgir um comando a pedir para destrancar a porta a meio da tarde... obrigaria a fazer algumas verificações adicionais, que podiam passar por ver a localização do smartphone, etc.)

Até lá... não se surpreendam se vierem os vossos assistentes a reagirem a comandos fantasmas que nem sequer ouviram!

Sem comentários:

Enviar um comentário (problemas a comentar?)

[pub]