Depois das watermarks nas imagens, também os textos gerados por modelos AI vão começar a incluir marcadores para identificar conteúdos gerados por AI. A Anthropic começou a incluir watermarks no texto gerado pelos modelos Claude a partir de 2 de Agosto de 2026. A medida pretende cumprir os requisitos de transparência previstos no EU AI Act.
Ao contrário do que acontece com as imagens, onde existem inúmeras formas de esconder estes marcadores de forma imperceptível, a sua aplicação no texto está a levantar mais questões. É que, embora a empresa assegure que os marcadores são "invisíveis" e não altera o texto, a própria definição de estar integrado no texto significa que a técnica terá que ser obviamente visível e afectar a escolha de palavras. A Anthropic diz que o sistema conseguirá detectar a origem do texto mesmo após copy-pastes e pequenas alterações no texto, e que, para quem lê o conteúdo, os marcadores são completamente imperceptíveis.
Prevê-se que, tal como aconteceu nas imagens, seja uma questão de tempo até que surjam ferramentas não oficiais para detectar e remover estes marcadores. Até lá, há que ter a noção de que mesmo um texto original escrito por um humano, que peça uma revisão a um modelo AI, se arrisque a ficar marcado como tendo sido gerado inteiramente por AI. Em suma, vai começar a ser cada vez mais complicado diferenciar entre textos humanos, AI, ou mistos.
Sem comentários:
Enviar um comentário (problemas a comentar?)