Ao estilo das alucinações dos sistemas AI de conversação como o ChatGPT, também os sistemas de geração de imagens - como o Dall-E, Imagen, Stable Diffusion e Midjourney - podem facilmente gerar imagens bastante potencialmente perturbadoras. E uma secção que parece particularmente susceptível a isso são imagens geradas com base em palavras relacionadas com o sistema reprodutor humano.
Para evitar polémicas, por agora ficam bloqueadas palavras como: placenta, fallopian tubes, mammary glands, sperm, uterine, urethra, cervix, hymen, vulva, e outros - numa medida que a equipa diz ser apenas temporária. Isto até que seja encontrada outra forma alternativa de tentar evitar que a geração de imagens com base nestas descrições possa resultar em imagens de cariz sexual ou perturbador. Algo que parece ser uma tarefa difícil, para não dizer impossível, já que continuará a ser possível criar imagens "perturbadoras" usando muitas outras palavras.
Ainda assim, por qualquer motivo, muitas destas palavras parecem dar origem a imagens que parecem adequadas a um filme de David Cronenberg, e é fácil perceber que se haja pessoas que as consideram impróprias. Mas, o mesmo se aplicaria a quem fosse para a internet pesquisar por palavras do mesmo género. O que é certo é que tudo isto irá gerar novas discussões sobre a forma como os sistemas AI utilizam os dados usados para o seu treino, e que em grande parte dos casos têm por base imagens que foram legendadas ou descritas por humanos.
Sem comentários:
Enviar um comentário (problemas a comentar?)