Crueldade contra o Claude pode resultar em suspensão de conta

A Anthropic está a apertar as regras contra a utilização abusiva contra o Claude.

A Anthropic actualizou a sua política de utilização para proibir o "abuso ou crueldade repetida e desnecessária" contra os seus modelos AI, incluindo o Claude. A empresa diz que nova regra não pretende impedir os utilizadores de criticarem, ou até insultarem, o chatbot, ou de demonstrarem a sua frustração e apontarem erros. O cenário que a Anthropic pretende evitar são situações extremas em que alguém repetidamente insiste em insultar e maltratar o modelo sem qualquer objectivo legítimo.

Ainda assim, a empresa diz que a maioria dos casos será tratada pelo próprio Claude, que tem a capacidade para terminar tais conversas abusiva. Ou seja, alguém que continue deliberadamente a insultar o chatbot poderá simplesmente deixar de receber respostas. Mas, em eventuais casos que ultrapassem todos esses limites e protecções, fica contemplada a possibilidade de bloqueio ou suspensão da conta.

A decisão é curiosa porque estamos a falar de uma máquina, sem sentimentos ou consciência, e este tipo de "cuidado" poderá parecer excessivo para que olha para as ferramentas AI tal como são actualmente. Ainda assim, a Anthropic parece querer estabelecer limites sobre a forma como os seus modelos são utilizados.

Para quem quiser testar os limites dos insultos e crueldade com um modelo AI, a melhor opção será talvez optar por um dos muitos modelos AI abertos, alguns dos quais podendo funcionar localmente em hardware modesto, para poder fazer o que bem entender sem ficar sujeito às regras dos serviços na cloud.