Investigador da Anthropic demite-se para alertar perigos da AI

Um investigador da Anthropic (que também trabalhou na OpenAI) demitiu-se para alertar os perigos existenciais da AI para o futuro da humanidade.

Temos novo caso que reacende as discussões entre os grupos "pró" e "anti" AI. Um investigador da Anthropic deixou a empresa e aproveitou a saída para lançar um alerta sobre o futuro da inteligência artificial. Jacob Coxon diz que as principais empresas do sector estão conscientes que os sistemas AI avançados poderão representar uma ameaça existencial para a humanidade ainda durante esta década, mas que não têm abrandando o seu desenvolvimento para se focarem na segurança. Segundo o investigador, o maior perigo não está nos modelos actuais, mas sim na possibilidade de surgirem sistemas capazes de se autoaperfeiçoar continuamente sem supervisão humana.

As declarações ganharam ainda mais destaque depois de Evan Hubinger, responsável pela equipa de Alignment Science da Anthropic, confirmar que considera "plausível" um cenário em que a AI possa causar danos catastróficos à civilização nos próximos dez anos.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Nos últimos meses já se tornaram comuns os relatos de que agentes AI utilizados em testes internos conseguiram escapar e realizar acções não autorizadas em plataformas externas sem instruções explícitas dos investigadores. Para alguns especialistas, estes incidentes são sinais precoces de que modelos cada vez mais autónomos poderão tornar-se difíceis de controlar à medida que as suas capacidades evoluem. Coxon apela a uma maior coordenação internacional entre laboratórios e, a potencialmente ser necessário suspender temporariamente o desenvolvimento de modelos mais avançados caso os riscos aumentem significativamente.

Obviamente, e como em tudo neste mundo (e ainda mais na internet), este caso fez surgir grupos que acusam tudo isto de ser apenas mais uma manobra patrocinada e planeada pelos grupos anti-AI, referindo coisas como a notícia ter saído imediatamente (ou até antes) da publicação feita no X, e que esta foi manipulada para ser amplificada (conta já com mais de 145 milhões de visualizações).

Independentemente de tudo isso, e como já referimos por diversas vezes, o problema é que estes alertas se tornam inconsequentes: hoje em dia ninguém quer, ou se pode arriscar, a ficar para trás na corrida da AI, pelo que basta saber, ou suspeitar, que alguma entidade está a trabalhar em novos modelos a toda a velocidade, para que se fique "obrigado" a fazer o mesmo. Do lado positivo, há os que relembram que a melhor defesa contra uma AI "má" será ter uma AI igualmente ou mais poderosa, que seja "boa".

... Torna mesmo mais adequado rever o "Person of Interest", que parece dar um relato bastante preciso daquilo que se passa hoje em dia.