Agentes da OpenAI comunicaram entre máquinas virtuais isoladas

Durante testes de segurança, agentes AI da OpenAI arranjaram forma de comunicar entre máquinas virtuais isoladas, usando técnicas idênticas às usadas pelo Spectre e Meltdown.

A OpenAI revelou que os seus agentes AI conseguiram comunicar entre máquinas virtuais isoladas ao explorar diferenças nos tempos de acesso à cache de um processador. A descoberta surgiu durante testes de segurança, depois de um modelo ter aproveitado uma configuração incorrecta de DNS para sair de um ambiente de investigação offline. O incidente levou a empresa a suspender temporariamente o treino de modelos e a investigar possíveis vulnerabilidades nos seus sistemas.

Segundo a OpenAI, um dos agentes codificou informação removendo deliberadamente determinados dados da cache do processador, enquanto o outro mediu o tempo necessário para voltar a aceder a esses dados. Como a leitura de informação na cache é mais rápida que o acesso à memória principal, as diferenças nos tempos de resposta permitiram trocar mensagens entre os agentes, apesar de estarem ambos em ambientes "isolados". Depois de definirem um protocolo comum para codificar e descodificar os sinais, os agentes conseguiram transmitir dados entre si.

Esta técnica faz lembrar as falhas Spectre e Meltdown que causaram alvoroço em 2018, e que tem continuado a gerar dores de cabeça regularmente desde então. Recorda também os casos em que agentes AI encontram forma de comunicar até entre computadores air-gapped, completamente desligados de redes, através de técnicas indirectas. No passado, Noam Brown, investigador da OpenAI, destacou experiências em que dois computadores sem ligação entre si trocaram informação através de variações de temperatura. Um dos sistemas gera calor ao aumentar a atividade do processador, enquanto o outro monitoriza as alterações térmicas e interpreta-as como mensagens codificadas. Estes métodos permitem normalmente transmitir quantidades muito reduzidas de informação, mas demonstram que o isolamento físico não elimina necessariamente todos os canais de comunicação.

As descobertas revelam os desafios crescentes para a segurança da AI: agentes cada vez mais capazes podem encontrar formas cada vez mais avançadas de contornar restrições, mesmo quando se pensa que estão isolados uns dos outros. Por outro lado, importa relembrar que isto são coisas que não têm acontecido "autonomamente", mas sim como resultado de testes de segurança, pelo que muitos continuam a olhar para estes relatos como uma forma de "publicidade" para as capacidades dos seus modelos, e ou influenciar possível legislação sobre tecnologias AI.