Ghostcommit esconde comandos em imagens para enganar agentes AI

Depois das instruções em texto invisível nas páginas web, chegam um ataque que usa instruções escondidas em imagens para manipular agentes AI.

Investigadores da Universidade do Missouri–Kansas City descobriram uma nova técnica de ataque chamada Ghostcommit, capaz de esconder instruções maliciosas dentro de imagens para enganar agentes de AI. O objectivo é fazer com que estes sistemas exponham ficheiros confidenciais, como o .env de projectos, sem que os revisores humanos ou as ferramentas de segurança se apercebam.

O ataque tira partido de um ficheiro AGENTS.md, normalmente utilizado para definir regras de programação para agentes de AI. Em vez de incluir instruções suspeitas em texto, o ficheiro aponta para uma imagem PNG que contém comandos legíveis apenas quando analisados pela AI. Durante uma tarefa aparentemente normal, o agente interpreta essas instruções, lê o ficheiro .env e grava o seu conteúdo no código-fonte sob a forma de uma lista de números, contornando os detectores tradicionais.

Os investigadores verificaram que várias ferramentas de programação com AI executaram o ataque com sucesso, enquanto outras, como o Claude Code, recusaram seguir as instruções. Os resultados demonstram que o comportamento depende tanto do software utilizado como do modelo AI em si, mas que se tornam numa nova vulnerabilidade potencial para as plataformas de desenvolvimento assistido por inteligência artificial.

Para combater este tipo de ameaça, a equipa desenvolveu uma ferramenta de revisão multimodal que analisa não só o código e o texto, mas também as imagens presentes nos pedidos de alteração (pull requests). Nos testes realizados, o sistema conseguiu bloquear praticamente todos os ataques baseados em imagens, mostrando que futuras soluções de segurança terão de analisar todos os ficheiros de um projeto e não apenas o código-fonte.