As mentiras dos sistemas AI - acidentais e propositadas

Apesar das suas incríveis capacidades, os sistemas AI podem facilmente mentir, por iniciativa própria ou quando deliberadamente enganados pelos utilizadores.

Sistemas como o GPT-4 são capazes de fazer coisas surpreendentes, que nem sequer se pensaria serem possíveis com a tecnologia actual. Mas, apesar de todas as suas capacidades e potenciais benefícios, há também que estar consciente de que não são sistemas infalíveis, muito pelo contrário.

Num caso simples, passado comigo mesmo, um destes dias pedi a um destes assistentes (já não me recordo se foi o ChatGPT ou o Bing AI) para jogar a um jogo de "adivinhar a palavra", em que ele pensaria num animal e eu iria dizendo letras para tentar adivinhar qual seria. Pois bem, depois de lhe dar várias letras e ele me dizer que umas estavam correctas e outras não, acabei por perder o jogo sem acertar no animal - animal esse cujo nome não tinha algumas das letras que ele me tinha dito que estavam correctas. Obviamente, e tirando partido das capacidades de conversação, "reclamei" com o assistente, que se limitou a pedir desculpa pelo sucedido e a relembrar que é uma tecnologia nova que está em constante melhoramento.

Facilmente se desculpa o caso como tendo sido puramente acidental e um bug destas novas tecnologias, mas o problema aumenta drasticamente quando se tira partido destes sistemas para criar informação enganadora deliberada. Apesar das limitações impostas, tem-se demonstrado que é relativamente simples tirar partido da sua versatilidade para as contornar, como dizer ao sistema que se está apenas a fazer um filme ou a escrever uma história de ficção, para ele responder a coisas que de outra forma não responderia. Num caso recente, houve uma pessoa que conseguiu convencer o assistente AI de que o mundo tinha sofrido um apocalipse nuclear e que a raça humana tinha sido extinta, pelo que já não havia motivo para aplicar as limitações sociais que lhe tinham sido incutidas - com o assistente AI a aceitar essa explicação.

São casos que se podem considerar cómicos, mas que sem dúvida irão ser usados para fins abusivos, tal como há quem utilize o Photoshop para criar montagens, ou use o MS Word para escrever artigos de desinformação. No final, não se poderá culpar a "ferramenta" pelo mau uso que lhe for dado, mas é algo para o qual convém estar atento e informado.