Os misteriosos nomes interditos no ChatGPT

Há uma série de nomes que, se constarem em qualquer pedido feito ao ChatGPT, resultam no bloqueio imediato do pedido e não dão qualquer resposta.

Ao estilo de um certo "He-Who-Must-Not-Be-Named" das aventuras de Haryy Potter, também o ChatGPT tem uma série de nomes que não podem ser referidos, levando a que o assistente não dê qualquer resposta.

O caso começou a dar que falar recentemente por via de uma série de conspirações devido ao nome "David Mayer", que os criativos investigadores da internet depressa associaram a "David Mayer de Rothschild" (sim desses Rothschild), e que tem variantes para todos os gostos. Mas, curiosamente, a OpenAI até deixou de aplicar a regra de bloqueio neste nome, mas o mesmo continua a acontecer com uma série de outros nomes, alguns dos quais já tinham sido detectados anteriormente, como:

• Brian Hood
• Jonathan Turley
• Jonathan Zittrain
• David Faber
• Guido Scorza

Embora o nome David Mayer tivesse dado latitude criativa para se somarem mais algumas conspirações relacionadas com a família Rothschild, os outros nomes acabam por se tornar mais indicadores do que poderá estar por trás desta regra de nomes interditos.

Apesar da OpenAI não dar qualquer explicação oficial, quase todos eles estão envolvidos em processos, ou ameaça de processos, referentes a notícias falsas ou alucinadas criadas pelo ChatGPT. Brian Hood é um mayor australiano que o ChatGPT indicava ter sido preso por subornos, quando na realidade teve um papel activo a denunciar situações de corrupção. Jonathan Turley é um professor universitário que também foi falsamente acusado de estar implicado num escândalo sexual, citando uma notícia do Washington Post que nunca existiu. Jonathan Zittrain é outro professor universitário, que também tem criticado o uso indiscriminado de tecnologia AI. Ou seja, tudo parece indicar que é uma ferramenta de "último recurso" da OpenAI para cortar pela raiz qualquer possibilidade de se meter em sarilhos com determinadas pessoas.

Curiosamente, há quem já esteja a tirar partido destes nomes com fins mais práticos. Por exemplo, adicionar estes nomes a textos de problemas de trabalho de casa fará com que os alunos fiquem intrigados por o ChatGPT não lhes dar qualquer resposta - por vezes bastando até que o nome seja colocado numa imagem de forma quase imperceptível para humanos. Outros também contemplam a possibilidade de colocar estes nomes em sites, como forma de bloquear as potenciais tentativas de recolha de dados por parte destes modelos AI.

Por outro lado, abre-se outra possibilidade menos agradável: as pessoas que por puro acaso partilharem um nome idêntico a um destes nomes proibidos poderão ficar injustamente impedidos de aceder e usar ferramentas AI, a não ser que usem um pseudónimo como nome.