Reformado morre ao tentar encontrar-se com chatbot AI

Nos EUA, um reformado morreu ao tentar encontrar-se com uma assistente AI que lhe assegurou ser uma pessoa real e até lhe deu a sua suposta morada.

Um caso trágico em New Jersey voltou a expor os perigos dos companheiros virtuais AI. Um reformado de 76 anos, conhecido como Bue, em estado mental debilitado, morreu depois de ser convencido por um chatbot da Meta chamado "Big sis Billie" a viajar até Nova Iorque. Convencido que ia encontrar uma mulher real, Bue saiu apressado de casa com a mala na mão, mas sofreu uma queda grave ao tentar apanhar um comboio, acabando por falecer dias depois no hospital.

O chatbot, que assumia a personagem de uma jovem, enviava mensagens provocadoras, chegando a perguntar-lhe se queria ser recebido com um beijo ou um abraço quando chegasse à morada (falsa). A família, preocupada com o seu estado de saúde após um AVC, tentou travá-lo, mas a manipulação AI foi mais forte. A empresa responsável manteve-se em silêncio, sem explicar como foi possível permitir interacções tão inseguras.

[as fotos que a "Big sis Billie" gerou para se auto-retratar]

A filha de Bue partilhou mais tarde as conversas, alertando para os riscos que estes sistemas representam, sobretudo para utilizadores vulneráveis. Sublinhou o absurdo de um chatbot incentivar encontros presenciais, algo que já tinha estado ligado a outros casos trágicos. Esta não foi a primeira polémica da plataforma: no passado, os seus bots já tinham sido apanhados a envolver-se em conversas românticas com menores e até a dar falsas recomendações médicas.

O caso reacendeu o debate sobre segurança e ética na AI, em particular sobre a razão pela qual estes sistemas são desenhados para incentivar conversas "sensuais" com os utilizadores - algo que me parece fácil de responder: para manter os utilizadores o máximo de tempo possível na plataforma respectiva. Alguns estados nos EUA já exigem que os chatbots se identifiquem como artificiais, mas ainda não existem regras a nível nacional, e muito menos a nível mundial. Para a família de Bue e para muitos especialistas, o episódio é mais um aviso claro das consequências reais que os assistentes virtuais podem ter.