2023/01/02

Projecto open-source disponibiliza ChatGPT para todos - e para ninguém

Já está disponível uma versão open-source equivalente ao ChatGPT, mas infelizmente continua a ser tão inatingível como se não existisse.

O impressionante ChatGPT mereceu o nosso destaque do ano para 2022 e, ao estilo do que aconteceu com outros sistemas AI, também já começam a surgir variantes open-source que facilitarão a sua utilização.

Um developer disponibilizou um sistema idêntico - o PaLM + RHLF - que combina um modelo de linguagem da Google com uma técnica chamada Reinforcement Learning with Human Feedback (RHLF) que promete ser capaz de fornecer resultados equivalentes ao ChatGPT. O problema é que é um modelo não treinado, sendo necessário compilar gigabytes de texto para servir como exemplo e com o qual possa aprender, assim como ter o hardware necessário para tal. Para se ter uma ideia do tipo de números envolvidos, estima-se que treinar um modelo AI com 1.5 mil milhões de parâmetros custe mais de um milhão de dólares, e este modelo PaLM tem 540 mil milhões de parâmetros. Outros modelos open-source como o Bloom, com 175 mil milhões de parâmetros, demoraram três meses a treinar usando 384 GPUs A100 da Nvidia - sendo que cada um deles custa milhares de dólares.

Mas, como se costuma dizer, a necessidade aguça o engenho, e há vários projectos que se têm dedicado a optimizar e simplificar esta tarefa monumental de modo a que seja possível obter resultados ao nível do ChatGPT de forma acessível para todos.

Sem comentários:

Enviar um comentário (problemas a comentar?)

[pub]