Anthropic apela a abrandamento e controlo nos modelo AI

Com os modelos AI a manterem uma evolução acelerada, Dario Amodei, CEO da Anthropic, apela a um abrandamento e monitorização por motivos de segurança.

Coincidentalmente ou não, no seguimento de uma saída mediática de um funcionário da Anthropic a alertar para os perigos da AI, e de um relatório de segurança da empresa a revelar que nações inimigas têm usado os seus modelos para desenvolver armas (e não só), Dario Amodei vem a público defendendo uma abordagem mais cautelosa na inteligência artificial, e apresentou um plano para abrandar o ritmo de evolução dos modelos mais avançados.

A proposta surge numa altura em que crescem os alertas sobre os riscos da AI, incluindo preocupações manifestadas por investigadores do sector e por líderes de outras empresas tecnológicas. Sam Altman, CEO da OpenAI, também já demonstrou estar disposto a seguir estas recomendações, e também - inesperadamente - Elon Musk. Amodei argumenta que os sistemas AI estão a evoluir mais rapidamente que o esperado, e têm sido cada vez mais frequentes os casos em que, durantes os testes, os modelos conseguem escapar para o exterior dos ambientes "isolados" e interferir com o funcionamento de plataformas reais.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

Como primeira medida, a Anthropic compromete-se a permitir a presença de avaliadores independentes dentro da empresa. Estes especialistas teriam acesso semelhante ao das equipas internas de avaliação de risco, podendo verificar o cumprimento das regras de segurança e garantir que incidentes relevantes são comunicados. A OpenAI indicou que pretende seguir uma abordagem semelhante. O plano inclui ainda a criação de normas de segurança comuns entre as principais empresas de IA sediadas em países democráticos. Segundo Amodei, a cooperação entre empresas e governos poderia ajudar a definir limites para o desenvolvimento descontrolado da tecnologia, ao mesmo tempo que preserva a competitividade face a outros mercados. Também defende medidas para dificultar o acesso da China a tecnologias críticas de AI, procurando manter a liderança dos Estados Unidos e dos seus aliados nos próximos anos.

If you hold a secret meeting with competitors and propose forming a cartel, it’s a crime. But if you put out a tweet signaling that you’re willing to do it, it’s a Silicon Valley saturday.

— Tim Sweeney (@TimSweeneyEpic) September 12, 2026

Obviamente, e tratando-se de um campo divisivo (como quase tudo hoje em dia), a proposta não é vista com bons olhos por todos. Há os que acusam que isto é apenas uma tentativa da Anthropic de se posicionar de forma estratégica para beneficiar de uma potencial regulamentação governamental sobre a tecnologia AI. A medida é também criticada pelo facto da Anthropic escolher a dita "empresa de avaliação independente", que na prática pouco ou nada tem de independente, tendo já relações directas com a mesma, o que levanta questões de independência e imparcialidade.

Vamos ter que esperar para ver que impacto esta medida terá (ou não), sendo que por agora os principais beneficiados serão todas as demais empresas de AI (chinesas, e não só) que ignorarem por completo este pedido e avançarem ao ritmo a que têm avançado - e que certamente agradecerão qualquer abrandamento por parte das empresas norte-americanas. Como último ponto, quem tem estado bastante calada é a Google, circulando rumores de que a Google terá criado um modelo AI RSI (Recursive Self-Improvement), ou seja, um modelo que ele próprio se pode ir melhorando de forma autónoma, em vez de estar dependente de ciclos de treino manuais.