A Apple está a explorar novas formas de executar modelos de inteligência artificial muito maiores directamente no iPhone, reduzindo a dependência da cloud. A empresa terá iniciado contactos com a startup PrismML para avaliar uma tecnologia capaz de optimizar grandes modelos de linguagem para funcionamento local nos seus smartphones.
A PrismML conseguiu adaptar o modelo Qwen 3.6, da Alibaba, com 27 mil milhões de parâmetros, para funcionar integralmente num iPhone 17 Pro. Este modelo é maior do que o actual AFM 3 Core Advanced da Apple, que conta com 20 mil milhões de parâmetros e é utilizado em funcionalidades do Apple Intelligence, como as novas vozes da Siri e a conversão de voz para texto no iOS 27. Uma das diferenças mais relevantes é que o modelo da Apple utiliza uma arquitectura que activa apenas uma pequena parte dos seus parâmetros de cada vez (1 a 4 mil milhões). Já a solução da PrismML permite manter os 27 mil milhões de parâmetros activos em simultâneo, o que poderá traduzir-se num desempenho superior para tarefas mais complexas.
O recurso a funcionalidades AI a correr localmente vem resolver vários problemas. Por um lado, pode dar a garantia total de privacidade, que se vai tornando um ponto cada vez mais crítico para muitos utilizadores. Adicionalmente, elimina a questão dos custos e limites, já que não fica sujeito a processamento externo. O grande senão é que, mesmo com todas as optimizações, o processamento AI local está directamente ligado à quantidade de RAM disponível, e com os actuais custos dos chips, mesmo a próxima geração dos iPhone 18 deverá manter com os actuais 12 GB nos modelos Pro, e com os modelos normais a terem uma subida modesta de 8 para 9 GB.
Sem comentários:
Enviar um comentário (problemas a comentar?)