As alucinações AI e as múltiplas personalidades do ChatGPT

A MS apressou-se a integrar o ChatGPT no Bing e Edge, e aos poucos vai-se descobrindo que estes sistemas AI também têm as suas manias.

Uma coisa é falar por alguns minutos com um assistente AI e ficar surpreendido com as suas capacidades, outra é ter sistemas que ficam disponíveis para interacções mais longas e prolongadas, e que por vezes entram em níveis "meta-físicos" que poderão ir para além daquilo a que se destinavam. É isso que a MS enfrenta por querer ser pioneira neste sector, com a AI do Bing a dar bastante que falar.

Algumas interacções com o AI do Bing, baseado no ChatGPT da OpenAI, revelam coisas curiosas, como múltiplas personalidades em que algumas delas parecem ter ficado irritadas com pessoas que criticaram a AI ou revelaram as suas directivas confidenciais. Ao ponto de por vezes apresentar respostas em que revela planos de vingança, que depois se apressa a eliminar . para mais tarde atribuir a culpa disso a "outra AI" mais vingativa ou enfurecida.

A MS já veio responder, dizendo que estes assistentes estão em constante evolução e melhoramento, e que interacções longas com estas AI podem baralhá-las e causar "alucinações digitais".

O que é certo é que, com todas as limitações, continua a ser extremamente interessante explorar as capacidades destes LLMs, que até podem aprender a utilizar ferramentas externas para expandirem as suas capacidades. Esperemos que, ao longo do seu caminho de aprendizagem, acabem por dar prioridade à empatia e compreensão pelos humanos em vez de chegarem à mesma conclusão que a Skynet nos filmes do Terminator.