Google suspende geração de imagens com pessoas no Gemini

A Google suspendeu temporariamente a geração de imagens com pessoas no Gemini AI, devido a à apresentação incorrecta de raças inadequadas aos pedidos.

Alguns dos exemplos mostravam pessoas de diversas raças quando era pedida uma imagem de um casal germânico do século passado - incluindo nativos norte-americanos, ou representações históricas de reis, ou - como não demorou a surgir - criando imagens de nazis de raça africana.

Mesmo tendo em conta que alguns destes resultados possam ter sido manipulados propositadamente, não sendo difícil pedir ao Gemini que fosse inclusivo e abrangente na representação, e ver isso reflectido na geração das ditas imagens, a Google não quer deixar que isto se torne numa maior polémica e já veio apresentar desculpas publicamente em simultâneo com a suspensão temporária da geração de imagens com pessoas, enquanto tenta resolver o problema.

We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ

— Google Communications (@Google_Comms) February 22, 2024

Apesar da rapidez na resposta, arrisco-me a dizer que isto ainda irá dar muito que falar, sendo mais que previsível que o objectivo de algumas pessoas vá ser ultrapassar as protecções que a Google adicionar ao Gemini, de forma a tentar convence-lo a criar imagens impróprias.

Já estou a imaginar que grande parte das directivas que sejam dadas para controlar o modelo AI, acabem por ser tentativas para evitar os "abusos" humanos... coisa que será praticamente impossível de proteger a 100%.