Sandisk e a SK hynix revelam High Bandwidth Flash (HBF)

Depois da HBM para a RAM, a Sandisk e a SK hynix revelam a High Bandwidth Flash (HBF) para acelerar o processamento AI.

A Sandisk e a SK hynix anunciaram a primeira especificação técnica da High Bandwidth Flash (HBF), uma nova tecnologia de memória desenvolvida para acelerar cargas de trabalho de inteligência artificial. O padrão foi publicado através do Open Compute Project e conta também com a participação da Google e da Tenstorrent, que se juntaram ao consórcio nos últimos meses.

A HBF utiliza memória NAND empilhada verticalmente para oferecer uma capacidade muito superior à da atual HBM (High Bandwidth Memory). Em vez de substituir a HBM, a nova tecnologia foi concebida para trabalhar em conjunto com ela, permitindo armazenar modelos AI de grande dimensão e outros dados utilizados em tarefas de inferência, enquanto a HBM (RAM) continua responsável pelas operações que exigem menor latência.

Segundo a Sandisk, uma pilha de 16 camadas de HBF poderá disponibilizar até 512 GB de capacidade num encapsulamento semelhante ao da HBM. Esta tecnologia poderá oferecer entre 8 e 16 vezes mais capacidade por um custo semelhante, mantendo um desempenho muito próximo de sistemas equipados com grandes quantidades de HBM. Um GPU que tenha acesso a 192GB de HBM poderá ter 4096GB de HBF!

As primeiras amostras de High Bandwidth Flash continuam previstas para a segunda metade de 2026, enquanto os primeiros aceleradores AI equipados com esta tecnologia deverão começar a surgir em 2027. Entretanto, a publicação da especificação aberta permitirá que fabricantes de chips, memória e sistemas comecem desde já a desenvolver produtos compatíveis.

Para os consumidores, a notícia é agridoce: por um lado isto pode permitir mais e maiores modelos AI disponíveis a custo mais reduzido; mas por outro lado significa que haverá menos memórias NAND disponíveis para os produtos de consumo, alastrando o fenómeno da escassez de RAM também para os SSDs.