Malware usa textos "perigosos" para escapar a análises AI

Foi descoberta uma campanha de malware usa prompts "problemáticos" para tentar enganar análises feitas por ferramentas AI.

Investigadores de segurança identificaram uma nova versão da campanha de malware Hades que utiliza uma técnica invulgar para tentar escapar a sistemas de análise AI. Os atacantes inseriram comentários no código com pedidos relacionados com armas biológicas e nucleares, sabendo que grande parte dos modelos AI tem mecanismos de segurança que interrompem a conversação assim que se abordam estes tópicos sensíveis.

Estes textos não têm qualquer relação com o funcionamento do malware em si, destinando-se exclusivamente a activar os mecanismos de protecção dos assistentes AI, com a expectativa que isso permita que o código malicioso passe despercebido em verificações superficiais.

Embora esta abordagem não seja eficaz contra ferramentas de segurança mais avançadas, pode ser o suficiente para enganar pessoas que utilizem assistentes AI para fazer uma análise rápida de pacotes de software ou código suspeito.

A campanha Hades também evoluiu noutras áreas, recorrendo a binários pré-compilados, separação do código malicioso por múltiplos pacotes e activação apenas durante a execução do software. Além disso, o malware expandiu os seus objectivos e procura agora roubar credenciais de serviços de desenvolvimento, chaves SSH, configurações Docker, ficheiros .env e tokens de plataformas cloud, aumentando significativamente o risco para programadores e empresas que sejam visados por estes ataques.