OpenAI procura responsável para lidar com os perigos da AI

Tornando uma piada realidade, a OpenAI está a procurar um Head of Preparedness, que terá como objectivo antecipar e mitigar riscos graves associados à evolução rápida da AI.

A OpenAI está a contratar um Head of Preparedness, um cargo dedicado a antecipar e mitigar riscos graves associados à evolução da AI. O anúncio foi feito por Sam Altman, que reconheceu publicamente que os novos modelos trazem "desafios reais", incluindo impactos na saúde mental e o uso malicioso em ciberataques.

De acordo com a descrição da função, esta pessoa será responsável por identificar capacidades que criem riscos de danos severos, liderando avaliações técnicas, modelos de ameaça, e medidas de mitigação. O objectivo será construir um mecanismo de segurança coerente e rigoroso, capaz de acompanhar a velocidade de lançamento dos modelos.

We are hiring a Head of Preparedness. This is a critical role at an important time; models are improving quickly and are now capable of many great things, but they are also starting to present some real challenges. The potential impact of models on mental health was something we…

— Sam Altman (@sama) December 27, 2025

Altman acrescenta que o cargo também terá de definir protecções antes da disponibilização de capacidades sensíveis - incluindo áreas biológicas - e estabelecer limites para sistemas que possam auto-melhorar. E desde logo avisa que esta posição será bastante "stressante", o que dá uma ideia da pressão deste cargo.

A criação deste posto surge num contexto delicado. Casos recentes ligaram chatbots a problemas graves de saúde mental, incluindo situações de suicídio entre adolescentes. Especialistas alertam para fenómenos como "psicose induzida por AI", onde sistemas reforçam delírios, teorias da conspiração, e comportamentos de risco. A contratação pode ser vista como um passo necessário para lidar com consequências reais da AI no mundo fora dos laboratórios, ou como uma forma de Sam Altman deflectir possíveis futuras acusações.

Podemos considerar que é o mais próximo que a OpenAI se aproximou da piada com alguns anos, de que procurava um "killswitch engineer", cuja única função era ficar a tempo inteiro ao lado dos servidores, para os desligar caso o GPT começasse a controlar o mundo. O único requisito era ter muita paciência e saber puxar fichas das tomadas.