Google Translate revela chatbot nas traduções

O modo avançado do Google Translate revela-se como um chatbot AI, respondendo a questões além das traduções.

A mais recente actualização do Google Translate está a dar que falar. O novo modo Advanced, com tecnologia AI, foi criado para melhorar a precisão e lidar melhor com nuances linguísticas, mas pode também revelar as suas origens de chatbot AI em vez de apenas traduzir.

O problema é um dos mais comuns no campo dos bots AI: o chamado prompt injection. O modo Advanced utiliza um modelo de linguagem baseado no Gemini, da Google, capaz de compreender contexto, expressões idiomáticas, e linguagem informal. No entanto, essa mesma capacidade faz com que nem sempre consiga distinguir entre texto a traduzir e instruções incluídas no próprio conteúdo.

Alguns utilizadores descobriram que, ao inserir frases com instruções no texto - por exemplo, pedindo que o sistema responda a uma pergunta - o modelo pode seguir essa ordem em vez de se limitar a fazer a tradução da frase. Em vez de converter o texto de chinês ou japonês para inglês, responde à pergunta como um assistente AI generalista. A solução para quem quer traduções é simples, voltar ao modo Classic do Google Translate. O sistema de tradução anterior não é afectado por este comportamento e oferece os resultados esperados.

Ainda assim, não deixa de ser curioso que a Google não tenha contemplado isto. Este tipo de coisa tem sido bastante comum e frequentes, muitas vezes com resultados curiosos. Não faltam exemplos de pessoas que, para verificarem se um serviço de assistência ao cliente, ou uma determinada contas nas redes sociais, é realmente humano, enviarem mensagens com instruções cómicas ou absurdas que - no caso de se tratar de um chatbot AI - poderá resultar no seguimento dessas instruções.