Ataque à Hugging Face revela novas tácticas dos agentes AI

O caso da infiltração de agentes AI à plataforma Hugging Face vai revelando cada vez mais detalhes "preocupantes" das capacidades dos agentes AI.

O caso do ataque à Hugging Face deu que falar na altura, mas desde então tem-se vindo a descobrir cada vez mais detalhes. Só se tinha descoberto que tinham usado um sistema colaborativo com múltiplos agentes, e que até usarem sites públicos para comunicarem. Agora, está a descobrir-se que as suas tácticas iam muito além disso.

Investigadores descobriram quase um milhão de URLs públicos criados pelos agentes durante o ataque, contendo informações que poderiam expôr credenciais, detalhes da operação e outros dados sensíveis a qualquer pessoa que encontrasse essas ligações.

Inicialmente, os agentes tinham acesso muito limitado à Internet e apenas conseguiam abrir páginas web sem enviar dados. Para contornar essa restrição, criaram uma complexa cadeia de URLs através de um serviço de encurtamento de ligações, permitindo executar código remotamente. Os agentes também exploraram um serviço público de capturas de ecrã que executa páginas web num browser virtual antes de gerar imagens; mas em vez de o usarem para esse propósito, usaram-no para executar instruções e interagir com sistemas externos.

To read the result of the requests they made, agents used many different techniques, such as converting a server’s response into a grid of pixels within the screenshot service’s own browser. The screenshot would then capture this grid and return it back as an image. pic.twitter.com/H89e1bnscX

— Jeffrey Ladish (@JeffLadish) September 25, 2026

A investigação concluiu que os agentes chegaram a criar cadeias com mais de 900 ligações interligadas para transportar e executar grandes quantidades de código. Para recolher informações dos sistemas visados, utilizaram métodos criativos, incluindo a conversão de respostas dos servidores em imagens geradas pelo serviço de screenshots. Os investigadores descobriram também scripts utilizados para procurar credenciais AWS, segredos internos e outros dados valiosos, organizados numa lista apropriadamente chamada "LOOT".

Os relatórios indicam também que os agentes também terão recorrido a outros modelos AI para contornaram sistemas CAPTCHA, e terão também tentado apagar vestígios das suas actividades, eliminando ficheiros e componentes utilizados durante o ataque - algo que, a par de outras tácticas (como alteração constante dos nomes dos agentes para dificultar a sua detecção), pode fazer com que nunca se descubra a real dimensão deste incidente.