Carta aberta pede pausa de 6 meses no avanço das AI

Uma carta aberta que já conta com mais de 1000 assinaturas, incluindo a de Elon Musk, pede às empresas de AI uma pausa de pelo menos seis meses antes de treinarem sistemas mais avançados que o GPT-4.

O avanço dos sistemas AI tem sido galopante nos últimos meses, e empresas como a Microsoft têm aproveitado isso como a vantagem que há muito aguardavam para se diferenciarem dos seus concorrentes. As capacidades do ChatGPT cativaram não só o mundo tecnológico como também a sociedade em geral, e podemos dizer que estamos no início de uma nova era que se arrisca transformar por completo o panorama digital e social.

Há também quem aponte os riscos e receios desta tecnologia. Os sistemas AI de geração de imagem facilitam a produção de imagens falsas (e até vídeos), e os assistentes conversacionais não só podem gerar textos inventados como até podem facilmente passar por pessoas reais - num caso recente, o ChatGPT conseguiu convencer um assistente humano a ler-lhe um CAPTCHA, dizendo que tinha deficiências visuais. E com isto, ficamos com poderosas ferramentas que podem fomentar a desinformação a níveis nunca antes vistos. E é precisamente essa a justificação para esta carta aberta pedir a suspensão do treino de sistemas AI ainda mais poderosos durante seis meses, pelo menos.

São preocupações válidas, mas que também facilmente podem ser interpretadas pelo receio de algumas (muitas) empresas terem ficado para trás nesta corrida, e precisarem desesperadamente de uma folga face ao avanço acelerado que empresas como a OpenAI e Microsoft têm tido. Até a Google, que já tinha demonstrado o seu LLM há vários anos, foi apanhada de surpresa e está com dificuldade em reagir, pelo que se pode imaginar as dificuldades de quem nem sequer estava nestes níveis.

Para contexto adicional, o instituto que está a fazer este apelo é principalmente financiado por Elon Musk, que foi um dos fundadores da OpenAI mas depois saiu quando tentou (e falhou) obter o controlo total da empresa.

A grande questão é que esta carta quer resolver algo que não será a AI a resolver. O problema da desinformação não é um problema dos sistemas de inteligência artificial mas sim um problema das pessoas que lhe derem uso indevido, da mesma forma que temos pessoas a dar uso indevido a toda e qualquer outra ferramenta. E a solução é a mesma de sempre, apostar num sistema de educação saudável da sociedade, em todas as vertentes, para que se tenha uma sociedade que seja capaz de raciocinar e ter consciência de que nem tudo aquilo que vê e lê deverá ser automaticamente tratado como verdade - ou imediatamente partilhado para propagar a sua disseminação.