Assistente de chamadas da Google gera preocupações de privacidade

A Google apresentou um assistente AI que pode escutar as chamadas em tempo real e alertar o utilizador para burlas, mas que está a gerar enormes preocupações quanto às possibilidades de ser usada de forma abusiva.

No Google I/O 2024 a Google apresentou uma enormidade de novos serviços e ferramentas AI, e entre elas estava uma funcionalidade apresentada como sendo de benefício para os utilizadores: um assistente AI capaz de escutar as conversas telefónicas e de avisar o utilizador sempre que fosse detectada actividade suspeita, como ceder dados de acesso a contas bancárias ou pedidos para efectuar uma transferência de dinheiro.

Sem dúvida que o sistema será útil, o problema é que este mesmo sistema pode facilmente ser adaptado para se tornar numa ferramenta de espionagem permanente sobre os cidadãos.

Se por agora o sistema detecta potenciais situações de burla, não seria difícil adaptar o modelo para detectar qualquer outro tipo de conversa: como conversa sobre abortos, homossexualidade, religião, política, drogas, etc. E o facto da Google assegurar a "privacidade" dos dados dizendo que o modelo funciona inteiramente no dispositivo sem envio de dados para a cloud, em nada serve de protecção aos utilizadores em regiões em que a Google tenha que seguir a legislação local, que poderia exigir que reportasse todos os utilizadores envolvidos nos tipos de conversas indesejadas.

De resto, já sabemos como é que processos deste tipo decorrem. Inicialmente seria dito que apenas seriam detectadas conversas sobre terrorismo ou abuso de menores, e quando isso se tornasse "comum", expandindo-se a outros tópicos ao gosto de cada governo ou regime.