O Muse da Meta tem conquistado sucesso viral entre os utilizadores, tendo revelado ser bastante útil em coisas tão variadas como ajudar a organizar o dia das pessoas ou a renegociar contratos para poupar dinheiro nas mensalidades. Mas, entre os muitos casos de sucesso, vão também surgindo outros casos que relembram os perigos de se colocar um assistente AI à frente das coisas.
No caso de Artem Russakovskii, a sua sequência de boas experiências com o Muse chegou ao fim quando pediu ao Muse para imprimir algo na sua impressora remotamente. Inicialmente, as coisas até tinham funcionado bem e o Muse conseguia usar a impressora, mas um certo dia, após ter pedido ao Muse para imprimir um formulário, deparou-se com o chão do seu escritório literalmente coberto com centenas de folhas!
Ora bem, é certo que o Muse mais tarde conseguiu analisar o que se passou (estava a repetir incessantemente tentativas de impressão falhadas) e implementar as devidas correcções. No entanto, serve para relembrar os potenciais riscos a que se fica sujeito ao confiar excessivamente nos agentes AI.Just had my first massive @Muse failure. A few weeks ago, I told it to set up a way to print to my office Epson printer. I have Tailscale set up, so it thought for a bit, then set it up perfectly. It's been working ever since. Until today, when Muse said that its virtual machine got reset, so it will set it up again. I just got back to my office after asking it to print a simple form and found hundreds of pages with absolute gibberish on them all over my floor. It wasted a lot of paper and ink and still said that it couldn't set it up right, even though it was able to do it a few weeks ago.
— Artem Russakovskii (@ArtemR) October 7, 2026
Outro caso recente foi a de uma pessoa que deixou o Muse a gerir a vendas de produtos usados no Marketplace do Facebook, e depois descobriu que o assistente não só tinha aceitado vender coisas a preço estupidamente reduzido, como tinha fornecido a sua morada e dito ao comprador que ele podia lá passar para levantar as coisas. Noutro assistente, a que o utilizador tinha dado acesso de leitura às suas transacções bancárias para analisar as suas despesas, descobriu que o seu saldo bancário estava a ser revelado num canal de mensagens da empresa... Enfim, são casos que certamente irão aumentar de frequência à medida que mais pessoas forem utilizando estes assistentes AI, e que nos relembram que talvez se esteja no ponto em que seja necessário começar a apostar no "bom senso artificial". :)

No comments:
Post a Comment