2024/12/16

Resumo AI de notificações da Apple cria notícia falsa

O resumo de notificações Apple Intelligence gerou uma notícia falsa da BBC sobre Luigi Mangione, suspeito do homicídio do CEO da UnitedHealth Group.

O resumo de notificações é uma das funcionalidades das capacidades Apple Intelligence que usam tecnologias AI para melhorar o uso dos iPhones, prometendo condensar múltiplas notificações numa versão resumida de mais fácil leitura. No entanto, neste caso, o resumo AI apresentado anunciava de forma errada que Mangione se tinha suicidado. A notificação dizia: "Luigi Mangione shoots himself; Syrian mother hopes Assad pays the price; South Korea police raid Yoon Suk Yeol’s office".

O problema surgiu porque a Apple Intelligence combinou três manchetes separadas da app BBC News numa única notificação, separando-as com pontos e vírgulas. Enquanto os resumos das notícias sobre a Síria e a Coreia do Sul estavam correctos, a referência a Mangione estava errada. A BBC ainda não revelou o texto completo da notificação original sobre Mangione, o que dificulta identificar onde o erro ocorreu. A BBC diz já ter contactado a Apple de modo a que resolva o problema, sendo que outros erros semelhantes também foram registados com outras publicações, como o New York Times.

Casos como este vêm relembrar que, por muito útil que a tecnologia e ferramentas AI sejam há que estar consciente de que, mesmo que funcionem bem 99% das vezes, se está sempre sujeito a que possam funcionar mal em certos cenários - e que, como tal, convém sempre aplicar um pouco de inteligência humana antes de assumir que tudo o que sai das funcionalidades AI está automaticamente correcto. De facto, a mesma recomendação também se aplica às coisas escritas por humanos. :)

Sem comentários:

Enviar um comentário