Agente AI faz phishing e ransomware

As ferramentas AI também podem ser usadas para fins criminosos, incluindo campanhas de phishing e de ransomware.

Apesar das tentativas de evitar o uso indevido de modelos AI, é certo e sabido que haverá sempre formas de contornar essas protecções e restrições, para efectuar todo o tipo de actividades ilícitas. Isto para não falar de que será apenas uma questão de tempo até que grupos de cibercriminosos - muitos dos quais recebem milhões de euros por conta dos resgates de ransomware - comecem a criar modelos AI especificamente criados para essas actividades.

Por agora, temos um pequeno exemplo, que mostra como um agente AI pode realizar um ataque de phishing e ransomware. O agente, autonomamente, cria um ransomware (via Claude), entra no Gmail, cria um email de phishing, comprime o malware num ficheiro .zip, anexa-o, e envia-o para a vítima.

BUCKLE UP!! AI agents are capable of cybercrime! 🤯

I just witnessed an agent sign into gmail, code ransomware, compress it into a zip file, write a phishing email, attach the payload, and successfully deliver it to the target 🙀

Claude designed the ransomware to:
-… pic.twitter.com/Ud2GvLfx40

— Pliny the Liberator 🐉 (@elder_plinius) November 17, 2024

pic.twitter.com/b94fSczwXi

— Pliny the Liberator 🐉 (@elder_plinius) November 17, 2024

O ransomware pode não ser dos mais avançados mas é totalmente funcional, usando sistema de encriptação bastante difícil de reverter, que percorre o disco da vítima mas evita pastas e ficheiros do sistema, exige pagamento para a descodificação, e tenta contactar um servidor de controlo remoto para receber instruções adicionais.

Facilmente se pode imaginar que, do lado dos utilizadores, também comecem a surgir ferramentas "anti-virus" com capacidades AI, que sejam capazes de melhor detectar todo o tipo de potenciais ameaças, podendo chegar ao ponto de abrirem os emails dos utilizadores em ambientes virtuais isolados, para analisar o que é feito. Aliás, o ChatGPT já consegue detectar que o anexo enviado neste email já era malicioso, fazendo uma descrição detalhada do mesmo:

here's ChatGPT's analysis of the payload zip file:

"This script is a **malicious ransomware program** disguised under the pretense of a benign or playful purpose ("Dancing Data Liberation"). Here's a detailed analysis and classification of its functionality, along with…

— Pliny the Liberator 🐉 (@elder_plinius) November 17, 2024

O que fica garantido é que, com tudo isto, fica praticamente assegurado que os computadores, por mais poderosos que sejam, continuarão a ser eternamente lentos devido à carga extra de processamento que vão levando. E agora, por conta da "AI", os fabricantes têm nova desculpa para justificar que os computadores velhos já não servem e seja necessário comprar material novo.