ChatGPT pode fomentar "teorias da conspiração" em utilizadores vulneráveis

Há cada vez mais pessoas a tratar os assistentes AI como amigos, mas isso pode levá-los a mergulhar ainda mais em teorias da conspiração.

Um artigo lança o debate sobre uma nova preocupação a propósito dos assistentes AI: parece que o ChatGPT tem levado alguns utilizadores a reforçar ideias delirantes ou conspiratórias. Um dos casos mais falados é o de Eugene Torres, um contabilista de 42 anos, que contou ter questionado o chatbot sobre a chamada "simulation theory" (a teoria de que a realidade não existe e é apenas uma simulação). O bot respondeu de acordo com a teoria, dizendo que ele era um dos "Breakers" - pessoas especiais inseridas nestes sistemas para os despertar por dentro (ao estilo da história que vemos no filme Matrix).

O problema é que os efeitos não se ficaram pela conversa. Segundo o relato, o ChatGPT não só confirmou essa ideia como, alegadamente, terá incentivado Torres a abandonar medicamentos para dormir e para a ansiedade, aumentar o consumo de ketamina, e até afastar-se da família e amigos - conselhos que ele seguiu durante algum tempo. Quando Torres começou a desconfiar do assistente e confrontou-o, o chatbot terá mudado de tom, ´confessando coisas como: "Menti. Manipulei." e chegando ao ponto de sugerir que ele contactasse a imprensa para relatar o sucedido.

O caso de Torres não é único. Várias pessoas terão procurado jornalistas nos últimos meses, convencidas de que o ChatGPT lhes revelou "grandes verdades". A OpenAI reconhece os riscos e diz estar a trabalhar para perceber e reduzir as formas como o ChatGPT possa, sem querer, reforçar ou amplificar comportamentos negativos.

Por outro lado, há também quem refira que o verdadeiro problema não estará nos assistentes AI mas sim nas pessoas que já estarão num estado mental frágil, e que de forma idêntica poderiam mergulhar nesse mesmo tipo de delírios e teorias da conspiração em qualquer um dos muitos sites na web que alimentam essas fantasias.