A Google está a adicionar uma nova camada de segurança ao Chrome para preparar a chegada das funcionalidades de navegação agente, alimentadas pelo Gemini. O novo sistema, chamado User Alignment Critic (UAC), foi criado para proteger os utilizadores quando o Chrome começar a executar tarefas de forma autónoma, como navegar em sites, preencher formulários, clicar em botões, e realizar acções resultantes de pedidos do utilizador.
A navegação agente traz riscos específicos, sobretudo os de "indirect prompt injection", onde páginas maliciosas tentam manipular o modelo AI para expor dados sensíveis ou realizar acções perigosas. Para reduzir estes riscos, a Google está a implementar uma arquitectura de segurança em camadas que combina isolamento de modelos, regras, controlo de acesso, e supervisão do utilizador. O UAC é o pilar central desta abordagem: trata-se de um segundo modelo Gemini, isolado, que avalia cada acção proposta pelo agente principal e bloqueia aquilo que considerar inseguro ou irrelevante.
A Google diz estar a adoptar uma postura mais cautelosa do que outras empresas, lembrando que várias ferramentas de navegação assistida por AI já demonstraram vulnerabilidades a phishing, prompt injection e compras fraudulentas. Para reforçar a segurança, a Google está a oferecer recompensas de até 20.000 dólares a quem conseguir comprometer o novo sistema, numa tentativa de fortalecer o Chrome antes do lançamento oficial da navegação agente.
Sem comentários:
Enviar um comentário (problemas a comentar?)