GPT-4.5 consome tanta energia como Itália por ano - por cada token

Revelando o extraordinário custo de processamento dos modelos AI mais poderosos, o GPT-4.5 consome tanta energia como Itália por ano, por cada token.

A OpenAI tem sido criticada pela demora e limitações no lançamento do mais recente GPT-4.5, que começou por apenas ser disponibilizado aos subscritores Pro ($200 por mês), e só agora o estar a fazer chegar aos demais clientes pagos "Plus" ($20 por mês), mas de forma bastante limitada, permitindo apenas 50 pedidos por semana. Um limite que muitos clientes pagos acham ser demasiado reduzidos, mas que podem ser explicados pela revelação de que, o processamento de cada token no modelo GPT-4.5 consumir tanta energia quanto a Itália consume num ano - ou assim diz um dos funcionários da OpenAI.

Não me parecendo que seja uma comparação literal mas apenas uma comparação "ilustrativa" da enorme quantidade de processamento necessária para o GPT-4.5 (um pedido complexo com milhares de tokens significaria que um só pedido ao GPT-4.5 poderia gastar mais energia que todo o mundo num ano), servirá para nos dar uma ideia dos actuais problemas de ampliação e expansão das funcionalidades AI. Algo que também se vai fazendo notar no próprio custo de acesso a estes modelos, com a OpenAI a já dar indicações que os seus futuros agentes AI poderão custar 20 mil dólares por mês.

Mas, embora possa haver espaço e mercado para tais assistentes AI ultra-dispendiosos, é possível que se tornem irrelevantes e obsoletos antes mesmo de serem lançados. Isto porque, modelos como o recém-lançado QwQ 32B demonstram que é possível criar modelos AI pequenos e eficientes, que podem correr em hardware doméstico, com capacidades que igualam modelos bastante maiores. Resta esperar que esta tendência se mantenha, para que não se corra o risco de ter a era AI a acentuar as disparidades sociais em vez de as atenuar ou eliminar.