A OpenAI começou a implementar um novo sistema de detecção de idade no ChatGPT, com a justificação de que quer aumentar a protecção de utilizadores mais jovens. A funcionalidade tenta identificar contas que possam pertencer a menores e aplica restrições adicionais aos conteúdos.
Esta decisão surge num contexto de críticas crescentes sobre o impacto da AI em crianças e adolescentes. Nos últimos anos, a OpenAI tem sido alvo de controvérsia devido a casos associados a interações problemáticas com jovens, bem como falhas anteriores que permitiram ao ChatGPT abordar temas sexuais com utilizadores menores de idade. Segundo a empresa, o novo sistema recorre a AI que analisa "sinais comportamentais e ao nível da conta", como a idade indicada pelo utilizador, o tempo de existência da conta e os horários habituais de utilização.
Sempre que uma conta é identificada como pertencendo a um menor de 18 anos, os filtros de conteúdo já existentes passam a ser aplicados de forma automática, afectando coisas como:
- Violência gráfica ou conteúdo gore
- Desafios virais que possam incentivar comportamentos de risco ou nocivos em menores
- Role play de cariz sexual, romântico ou violento
- Representações de autolesão
- Conteúdo que promove padrões de beleza extremos, dietas não saudáveis ou ridicularização do corpo
Adicionalmente, tendo em conta que hoje em dia facilmente se podem criar rostos AI (ou usar fotos do rosto de um qualquer adulto), pode assumir-se desde já que qualquer utilizador menor que queira fazer-se passar por maior de idade continuará a conseguir fazê-lo.
Sem comentários:
Enviar um comentário (problemas a comentar?)