Edição de imagens do Grok no X gera polémica

A edição de imagens AI via Grok está a enfrentar nova controvérsia por facilitar a criação de fotos sexualizadas não consentidas de qualquer pessoa, incluindo mulheres, celebridades e até menores.

A manipulação de imagens com ferramentas AI não é nova e tem ficado cada vez mais acessível, no entanto, o facto do X ter disponibilizado a edição via Grok directamente no X tem dado ainda mais visibilidade ao sistema, e a reduzida censura do Grok começa agora a dar que falar.

Enquanto muitas ferramentas AI se recusam a fazer qualquer coisa do tipo "tira a roupa à pessoa nesta foto", o Grok é bastante mais permissivo, e não tem qualquer problema em apresentar qualquer pessoa num bikini ou em poses sugestivas. E embora algumas edições tenham começado como piadas - até o Elon Musk participou pedindo e elogiando uma versão dele de bikini – a tendência rapidamente mudou de tom, quando começaram a surgir queixas de mulheres que iam descobrindo fotos suas alteradas sem qualquer consentimento, e também crianças.

A xAI já reconheceu algumas falhas e prometeu correcções, mas é também sabido que a reduzida censura do Grok tem sido um dos seus factores de crescimento face aos assistentes AI rivais. Por normal as tentativas de moderação e censura são rapidamente criticadas pelos utilizadores - e até a OpenAI anunciou que iria lançar um modo "adulto" no ChatGPT ainda este ano, com moderação reduzida.

O que é certo é que, nesta fase, se torna impossível tentar parar ou suprimir estas ferramentas. Existem inúmeros modelos AI de geração e edição de imagem que são disponibilizados como open-source e podem ser executados em praticamente qualquer PC ou até num smartphone, e que têm estas capacidades. Nos fóruns AI não faltam modelos AI afinados especificamente para gerar imagens "explícitas". Pelo que, a grande questão é apenas a da facilidade de acesso: o Grok está a dar que falar apenas por evitar que alguém tenha que perder alguns minutos a instalar programas para fazer a edição de imagens, deixando que isso seja feito imediatamente com um clique.


Nota adicional: Dito isto, não deixa de ser curioso ver alguns sites reagirem com títulos garrafais "X deixa editar imagens sem consentimento!", como se desde sempre não tivesse sido possível pegar em qualquer imagem disponível em toda a internet e fazer qualquer edição em ferramentas como o Photoshop ou quaisquer outras... A única diferença é mesmo a facilidade de acesso imediato.