ChatGPT expôs conversas privadas em ferramenta de análise da Google

Algumas perguntas e conversas privadas do ChatGPT apareceram publicamente no Google Search Console.

Foi descoberto um dos casos mais estranhos de fuga de dados do ChatGPT, com mensagens privadas de utilizadores a aparecerem no Google Search Console (GSC) - uma ferramenta usada para monitorizar tráfego de pesquisa. O incidente levanta novas dúvidas sobre a forma como a OpenAI gere a privacidade dos utilizadores e possíveis ligações com o sistema de pesquisa do Google.

Segundo o relato, centenas de prompts do ChatGPT - alguns com informações pessoais e confidenciais - começaram a surgir em relatórios do GSC a partir de Setembro, aparecendo como consultas completas de pesquisa. Entre os exemplos havia mensagens sobre relações pessoais, situações de trabalho e outros temas sensíveis, o que sugere que as instruções dos utilizadores estavam a ser enviadas para os sistemas do Google. Isto parece indicar que a OpenAI estava a usar prompts reais para fazer scraping ao Google Search, o que levou esses textos a ficarem visíveis para sites que apareciam bem classificados em pesquisas associadas ao ChatGPT.

A OpenAI confirmou estar ciente do problema, que diz ter sido uma falha temporária que foi resolvida rapidamente e afectou apenas "um número reduzido de consultas de pesquisa". No entanto, nem a OpenAI nem a Google esclareceram quantos utilizadores foram afectados ou se a recolha de dados através do Google esteve na origem do incidente. Os prompts expostos parecem estar ligados à função de pesquisa na web do ChatGPT, que poderá ter incluído acidentalmente as mensagens dos utilizadores nas consultas enviadas ao Google.

De qualquer forma, este episódio serve de lembrete de que as conversas e pedidos feitos com chatbots AI podem não ser tão privados quanto se pensa.