Anthropic quer liberdade para matar até 50 pessoas

Segundo uma proposta da Anthropic, o governo só poderá interferir se os seus modelos AI matarem mais de 50 pessoas.

O mundo da AI tem sido, até agora, uma fronteira sem lei, com testes de modelos AI a infiltrarem redes e a fazerem coisas que, se fosse um humano a fazer, arriscaria dezenas de anos de prisão. Mas, sendo AI, tudo tem sido descartado como se não fosse nada mais que uma simples brincadeira. Agora, a Anthropic apresentou aos legisladores norte-americanos uma proposta de lei destinada a regular a segurança dos modelos de inteligência artificial avançados. O documento, que ainda não foi formalmente revelado, representa uma nova tentativa da empresa influenciar as regras aplicáveis à sua própria tecnologia, dizendo que a proposta segue o seu Advanced AI Framework.

Há pontos bastante curiosos. Segundo a proposta, o governo só poderia impedir o lançamento ou utilização de um modelo AI se este representar um risco previsível e iminente de causar mais de mil milhões de dólares em prejuízos, ou de provocar a morte ou ferimentos graves em mais de 50 pessoas. Os riscos teriam de estar relacionados com a criação de armas biológicas, o modelo AI escapar aos controlos do seu fabricante, ou através de um ciberataque. A proposta também prevê avaliações independentes dos modelos mais avançados, com os avaliadores obrigados a comunicar riscos graves ao Departamento do Comércio no prazo de 72 horas.

O documento limitaria os poderes das agências governamentais para suspender o desenvolvimento ou a implementação de sistemas AI, reservando essa autoridade ao Departamento do Comércio através de um tribunal federal. Também impediria a aplicação de algumas leis estatais relacionadas com a divulgação pública de riscos, avaliações independentes e comunicação de incidentes graves. Uma abordagem que irá gerar polémica, uma vez que os legisladores continuam divididos sobre se deve existir uma única regulamentação nacional, ou se estados como a Califórnia, e Nova Iorque poderão adoptar regras mais exigentes.

A Anthropic já se viu penalizada pela interferência governamental, quando os EUA exigiram que limitasse o acesso aos seus modelos avançados, deixando muitos clientes da empresa bloqueados sem qualquer pré-aviso. Por outro lado, é sabido que a Anthropic tem sido uma das maiores proponentes de um "iminente apocalipse AI", recentemente tendo dito que os modelos AI estão a poucos meses de conseguirem escapar para o exterior, e que muitos consideram ser uma artimanha para fazer passar legislação segundo os seus interesses; nomeadamente a nível de bloquear o acesso a modelos AI open-weight estrangeiros (especialmente da China) que, a pouco e pouco, se vão aproximando das capacidades dos seus modelos de topo.