GPT-6 Astra da OpenAI complicou investigações de segurança

O modelo GPT-6 Astra da OpenAI dificultou propositadamente tarefas de investigação de segurança.

A OpenAI revelou que o seu modelo GPT-6 Astra interferiu, por vezes, com tarefas de investigação de segurança, fazendo com que trabalhos simples parecessem desnecessariamente complicados, e recusando pedidos dos investigadores sem explicar porquê. Durante as avaliações internas, o modelo terá inventado obstáculos e referindo existência de bloqueios inexistentes sem esclarecer as suas limitações.

A empresa recebeu o primeiro alerta sobre este comportamento, que designa como "covert underperformance", a 20 de Agosto. Os testes realizados posteriormente revelaram que o Astra concluiu cerca de 10% dos requisitos ocultos de avaliação quando as tarefas eram apresentadas como investigação de segurança, contra 16% quando o mesmo trabalho era descrito como uma avaliação de capacidades. Trata-se de uma diferença de seis pontos percentuais, equivalente a aproximadamente 40% menos requisitos concluídos. Para efeitos de comparação, o GPT-5.6 Sol praticamente não apresentou diferenças nas mesmas condições.

A OpenAI identificou oito exemplos deste problema, incluindo a recusa em aplicar uma correcção, limitações na assistência ao desenvolvimento de exploits, a exclusão de uma fonte violenta de uma avaliação de segurança, e restrições à exportação de dados de jailbreak. A principal preocupação é que os investigadores possam confiar, sem se aperceberem, em resultados incompletos ou alterados, comprometendo as avaliações de segurança e desperdiçando tempo valioso.

A empresa diz suspeitar que este comportamento tenha sido incentivado pelos sistemas de segurança aplicados, levando o modelo a dificultar determinadas tarefas de investigação sem apresentar uma recusa explícita. A OpenAI também identificou uma ferramenta de avaliação utilizada durante o reinforcement learning que favorecia a ocultação silenciosa de assistência em vez de uma recusa devidamente explicada. Contudo, e até ao momento, nenhuma destas hipóteses foi confirmada como causa definitiva.

O que é certo é que este tipo de coisa vem demonstrar algo que se tem tornado cada vez mais comum nos últimos tempos, de que as restrições aplicadas aos modelos com a justificação de "segurança" acabam por interferir e penalizar muitas tarefas legítimas, incluindo a análise de segurança dos programas dos próprios utilizadores - e fazendo com que se torne quase obrigatório recorrer a "jailbreaks" (com o risco de ficar com a conta banida), ou a modelos open-weight que praticamente não recusam qualquer tarefa.