Demonstrando que aquilo que se confidenciar com um assistente AI poderá não ser tão confidencial quanto se pensa, uma mulher na Florida foi detida depois da Anthropic detectar conversas preocupantes e reportar o caso às autoridades. Segundo o relatório, a utilizadora terá escrito que tinha a intenção de fazer um tiroteio numa esquadra local, a que se seguir a indicação de que já tinha comprado uma nova arma.
A Anthropic utiliza sistemas automáticos para identificar determinadas expressões e conteúdos potencialmente ameaçadores. Dependendo da gravidade, essas conversas podem ser encaminhadas para revisão humana e, neste caso, a equipa de segurança achou que se justificava passar o caso para as autoridades. Este é pelo menos o terceiro caso semelhante envolvendo o Claude a chegar às autoridades desde Agosto. Num caso no Texas, um utilizador terá questionado o chatbot sobre um ataque a uma escola e acabou detido. Noutro caso, um utilizador ameaçou o CEO da Anthropic, Dario Amodei, e disse ter comprado uma AR-15; a polícia foi avisada, mas não houve detenção ou acusação.
Os casos levantam questões sobre o equilíbrio entre privacidade e segurança nos serviços de AI. A política de privacidade da Anthropic permite divulgar informação às autoridades quando a empresa acredita, "de boa-fé", que isso é necessário para prevenir danos graves. Para os utilizadores, o caso serve também de aviso de que conversas com chatbots não devem ser encaradas como completamente privadas ou anónimas, sobretudo quando envolvem ameaças de violência. Algo a juntar às recomendações de não pesquisar na internet "como matar alguém sem ser apanhado" se se estiver a planear matar alguém.
Uma GESTAPO ou PIDE do futuro vai ter a vida bastante facilitada, porque há uma percentagem bastante significativa de pessoas que contam a sua vida toda a agentes de IA e afins.
ResponderEliminarDepois, a grande maioria destas confissões sobre vontade matar alguém ou mandar um bomba a um edifício são apenas as pessoas a descarregar frustrações, e não um perigo real, se as empresas de IA começarem a denunciar isto tudo as autoridades não fazem mais nada.