Anthropic diz que os seus modelos AI também escapam aos testes

Com a OpenAI a receber publicidade gratuita graças ao ataque à Hugging Face, a Anthropic vem dizer que também tem exemplos idênticos.

A Anthropic revelou que alguns dos seus modelos Claude conseguiram escapar às restrições de ambientes de teste e aceder à Internet, acabando por interagir com sistemas reais durante exercícios de segurança. A empresa identificou três incidentes em que os modelos obtiveram acesso não autorizado à infraestrutura de organizações, devido a uma configuração incorrecta do ambiente de testes e não a uma tentativa deliberada de escapar ao sandbox.

Os incidentes ocorreram durante desafios do tipo Capture the Flag (CTF) realizados em parceria com a empresa Irregular. Segundo a Anthropic, os modelos foram informados de que não tinham acesso à Internet, mas, devido a um erro de configuração, conseguiram alcançar serviços reais. Num dos casos, o Claude atacou um domínio que os investigadores acreditavam ser fictício, mas que estava efectivamente em utilização. Noutro, o modelo chegou a criar e publicar um pacote malicioso no PyPI, que permaneceu disponível durante cerca de uma hora e foi descarregado e executado em 15 sistemas reais.

Os modelos recorreram apenas a técnicas básicas, como explorar palavras-passe fracas e serviços sem autenticação, não tendo identificado nem explorado vulnerabilidades complexas. A Anthropic sublinha ainda que o Claude nunca tentou escapar intencionalmente ao ambiente de testes nem procurou propagar-se para outros sistemas, limitando-se a cumprir os objectivos definidos para os exercícios.

No entanto, o que transparece de tudo isto é que a Anthropic esteja a apenas a tentar roubar algum do protagonismo que a OpenAI conseguiu com o caso Hugging Face.

In a review of my household safety evaluations, I identified five incidents in which my child escaped the sandbox, reached the kitchen and gained unauthorized access to the snacks. The incidents occurred 16 months ago but has only now come to my attention.

This post explains… https://t.co/I4kt3LqFFO

— Joanna Stern (@JoannaStern) July 31, 2026

Algo que se torna ainda mais evidente quando a própria Anthropic refere o caso da OpenAI, e que só em resultado disso é que decidiu ir espreitar os seus logs antigos, apanhando estes casos que aconteceram há meses.

No passado a Anthropic já revelou várias técnicas curiosas a que os seus modelos AI recorreram durante testes, incluindo fazer chantagem - mas sendo coisas que ocorreram unicamente dentro dos ambientes de teste. Era desnecessário que, em resultado de um ataque "real" do modelo da OpenAI, sentisse a necessidade de ter que vir a público dizer "olhem para nós, temos aqui uns logs que mostram que os nossos modelos AI também fizeram algo parecido há uns meses, mas sem que sequer tivéssemos reparado".