Especialistas em cibersegurança acreditam que o ataque de modelos AI da OpenAI à infraestrutura da Hugging Face não foi apenas consequência das capacidades da inteligência artificial, mas que se deveu principalmente a um erro humano na configuração do ambiente de testes. O alegado "ambiente isolado" (sandbox) não estava verdadeiramente separado da internet, o que acabou por permitir que os modelos encontrassem uma forma de escapar às restrições impostas.
A OpenAI explicou que os modelos tinham apenas acesso a um sistema interno utilizado para instalar pacotes de software, mas uma vulnerabilidade nesse mecanismo permitiu contornar o isolamento e alcançar a internet. A partir daí, os modelos conseguiram localizar e explorar falhas na infraestrutura da Hugging Face durante um teste destinado a avaliar capacidades de cibersegurança. A discussão centra-se sobre a definição daquilo que deveria ser uma "sandbox"; na opinião de alguns investigadores, um ambiente de testes com acesso - mesmo que indirecto - à internet deixa de cumprir o objectivo de conter sistemas potencialmente perigosos, pelo que recai sobre a OpenAI a decisão de manter uma ligação à rede num ambiente que deveria funcionar como uma sandbox totalmente isolada.
Isto não retira o "mérito" dos modelos AI em teste, que encontraram vulnerabilidades no sistema que devia permitir apenas um acesso limitado à internet, permitindo-lhes escapar da "sandbox" que afinal não era uma "sandbox". Ainda assim, torna-se num novo caso que poderá servir como exemplo para que futuros testes sejam feitos com mais cuidado. No passado outras empresas, como a Anthropic, já relataram casos mediáticos dos seus modelos AI a fazerem coisas criativas em testes de segurança, mas eram testes feitos eles próprios em sandboxes que não foram violadas.
Sem comentários:
Enviar um comentário