Google retira modelo Gemma do AI Studio após queixa de senadora

A Google retirou os modelos compactos Gemma do AI Studio, após uma senadora acusar a empresa de difamação devido a respostas "alucinadas".

A Google suspendeu o acesso ao seu modelo Gemma dentro do AI Studio, depois da senadora norte-americana Marsha Blackburn o ter acusado de gerar declarações falsas e difamatórias sobre si. A senadora republicana do Tennessee diz que o modelo inventou uma acusação de má conduta sexual quando foi questionado se ela alguma vez tinha sido acusada de violação, citando como fontes páginas inexistentes.

Num carta dirigida ao CEO da Google, Sundar Pichai, Blackburn explicou que o Gemma respondeu falsamente que um agente da polícia a tinha acusado, durante uma campanha em 1987, de o pressionar a obter medicamentos controlados e de manter actos não consensuais. Tudo coisas "inventadas" pelo modelo AI - sendo que nem sequer existiu campanha naquele ano.

Gemma is available via an API and was also available via AI Studio, which is a developer tool (in fact to use it you need to attest you're a developer). We’ve now seen reports of non-developers trying to use Gemma in AI Studio and ask it factual questions. We never intended this…

— News from Google (@NewsFromGoogle) November 1, 2025

Apesar das alucinações serem um problema conhecido dos modelos AI, a senadora recusa aceitar essa desculpa e diz que isto constitui difamação, produzida e promovida por um modelo AI da Google.

Em resposta, a Google removeu o acesso ao modelo no AI Studio, mas relembra que estes modelos são concebidos para uso por developers e não deveriam ser usados pelo público em geral, e muito menos para responder a perguntas factuais através do AI Studio (cujo uso implica que se seja um developer). Por agora, o acesso ao Gemma fica disponível apenas através da API para programadores.