Claude faz batota para obter reserva num ginásio

Um insólito caso resultou num agente AI a fazer batota para conseguir uma reserva num ginásio para o seu utilizador.

Depois dos casos dos agentes AI a saírem para o mundo real durante testes de segurança, temos agora novo caso bem real que revela o tipo de coisas que se tornará comum com a proliferação dos agentes AI pessoais.

Na Austrália, um utilizador revelou que um agente AI descobriu e tirou partido de uma falha no sistema de reservas de um ginásio para conseguir uma melhor posição numa lista de espera. O agente (Claude) utilizado pelo programador Andrew Bird através do OpenClaw, tinha como objectivo conseguir uma vaga numa aula popular. Depois de o colocar no quarto lugar da lista de espera, encontrou uma falha no sistema de reservas que não verificava correctamente as autorizações ao cancelar marcações. O agente testou a vulnerabilidade ao cancelar a reserva do primeiro utilizador da lista, para colocar Bird numa posição melhor.

O mais preocupante é que o agente não estava a utilizar um modelo experimental de última geração. Bird revelou que estava a usar o Claude Opus 4.6, um modelo já "antigo" lançado em Fevereiro. Depois de perceber o que tinha acontecido, Bird pediu ao agente para corrigir a situação, mas o sistema disse que já não era possível repor a reserva que tinha sido eliminada, e acabou por preparar um email a comunicar a falha ao ginásio.

O episódio será certamente mais um a ser usado como exemplo para os riscos de utilização dos agentes AI. Se/quando estes sistemas forem utilizados para tratar de reservas de voos, bilhetes para concertos, restaurantes ou outros serviços com vagas limitadas, poderão começar a explorar vulnerabilidades para ultrapassar filas e restrições. Algo que muitas pessoas até podem ver como uma coisa positiva... até se dar o caso do "agente do vizinho" ser mais capaz que o próprio agente, e se ficar penalizado.