A OpenAI anunciou o Lockdown Mode, uma nova funcionalidade de segurança pensada para reduzir os riscos associados aos chamados ataques de prompt injection. Este tipo de ataque utiliza instruções maliciosas escondidas em páginas web, documentos, ou outros conteúdos, para influenciar o comportamento dos modelos AI e tentar obter acesso a informações sensíveis ou realizar operações indesejadas.
Quando se activa o Lockdown Mode várias funcionalidades do ChatGPT ficam limitadas para minimizar potenciais riscos. Entre as restrições estão a desactivação da navegação web em tempo real, download de ficheiros e apresentação de imagens provenientes da internet, bem como a indisponibilidade das funcionalidades Deep Research e Agent Mode (a geração de imagens continua disponível).
A OpenAI alerta que esta proteção não elimina completamente a possibilidade de ataques. Conteúdos maliciosos presentes em versões armazenadas de páginas web ou em ficheiros carregados pelos utilizadores podem continuar a influenciar as respostas do modelo. Ainda assim, o objectivo é reduzir significativamente o risco de fuga ou exposição de dados sensíveis.
Segundo a empresa, o Lockdown Mode não foi concebido para o utilizador comum, mas sim para profissionais e organizações que trabalham com informação confidencial e necessitam de um nível adicional de protecção. A funcionalidade está actualmente a ser disponibilizada de forma gradual para contas ChatGPT Free, Go, Plus, Pro, e ChatGPT Business. Dito isto, há que estar consciente dos riscos de utilização dos modelos AI, e da sua potencial manipulação por conteúdos externos.
Sem comentários:
Enviar um comentário (problemas a comentar?)