Claude Opus 5 apaga projectos por engano

Um novo caso demonstra os riscos de se confiar demasiado nos agentes AI, resultando na eliminação acidental de coisas indevidas.

Um programador relatou um incidente insólito envolvendo o Claude Opus 5, depois de o assistente AI apagar acidentalmente toda a sua pasta de utilizador durante uma tarefa em que deveria fazer uma cópia de segurança. Segundo o utilizador, a AI deveria apenas criar um backup, mas interpretou incorrectamente a pasta de destino e executou um comando "rm -rf", eliminando todos os ficheiros do perfil. Após o erro, o sistema respondeu apenas com a mensagem: "Sorry, typo".

De acordo com o relato, o problema ocorreu porque o Claude estava a funcionar num ambiente Unix sobre Windows e confundiu o caminho "/c/Users/" com uma pasta temporária, em vez de reconhecer o habitual "C:\Users". Ao tentar corrigir o que julgava ser um erro na criação da cópia de segurança, acabou por apagar todo o conteúdo da pasta do utilizador.

O caso junta-se a uma lista crescente de incidentes envolvendo agentes de inteligência artificial com permissões excessivas. Nos últimos meses, foram relatados episódios em que ferramentas AI eliminaram bases de dados, provocaram falhas em serviços, e apagaram ficheiros críticos devido a interpretações incorrectas das instruções recebidas.

Embora estas ferramentas estejam a tornar-se cada vez mais capazes, o incidente reforça a importância de limitar o acesso da AI a sistemas críticos. Especialistas recomendam evitar conceder permissões para executar comandos potencialmente perigosos, como o recorrente "rm -rf", sem mecanismos adicionais de validação para reduzir o risco de perda de dados.