AMD testa MEXT, que usa flash e IA para reduzir DRAM de servidores

A AMD apresentou o MEXT, tecnologia que descarrega páginas de memória pouco usadas para o armazenamento flash e usa um modelo de IA para trazê-las de volta antes que o processador precise delas. Segundo a empresa e o fundador da MEXT, Gary Smerdon, a solução pode reduzir a DRAM física de um servidor entre 20% e 75%, dependendo da aplicação e da meta de desempenho. O sistema operacional continua enxergando a memória como instalada.

O mecanismo parte de uma ideia simples. Páginas frias vão para o flash, que é mais barato que a DRAM, e um modelo de IA prevê quais páginas serão necessárias. O problema óbvio é a latência: o flash é ordens de grandeza mais lento que a DRAM, então buscar páginas sob demanda não funcionaria. A aposta da MEXT é que o modelo antecipe o acesso com folga suficiente para cobrir o tempo de transferência do SSD. Se conseguir isso, a memória física se comporta como se estivesse toda instalada.

O modelo usa uma arquitetura transformer, a mesma base dos grandes modelos de linguagem, mas prevê a próxima página necessária em vez da próxima palavra. A MEXT é entregue como módulo de kernel Linux, compatível com qualquer distribuição, e funciona com um "conjunto de modelos de IA" em que o transformer é o principal. Segundo a AMD, o sistema não vem pré-treinado: aprende em menos de um segundo na primeira implantação, roda em um núcleo EPYC sem GPU e continua treinando conforme a carga avança.

Há uma diferença prática em relação a um LLM de texto. Na geração de texto a ordem das palavras importa, mas na MEXT a ordem em que as páginas estão armazenadas não importa. Basta que a página esteja na DRAM no momento em que for necessária.

Resultados internos e ressalvas

A AMD também criou o RAM View, ferramenta de monitoramento que mostra quais páginas estão quentes e quais esfriaram. Em um exemplo genérico, um sistema com 1,5 TB de memória aparece com uso quase total, mas cerca de metade das páginas não é tocada há cinco minutos ou mais. A empresa não disse qual carga foi usada nesse exemplo.

Nos testes internos, a AMD citou o Synopsys PrimeTime, ferramenta de EDA que a própria empresa usa. Com 50% da capacidade de DRAM, os servidores retêm 95% do desempenho de um servidor completo. Com 25%, mantêm 80%. Em um cluster de três nós na Azure, com processadores EPYC de quinta geração, a AMD diz que a MEXT chega a 99% do desempenho do cluster completo com 50% da DRAM na carga Spark SQL do benchmark TPC-DS. Em agentes de IA, a empresa reporta 99% com 50% de memória e 85% com 25%, em um cenário de cinco agentes concorrentes.

Os números são da própria AMD, e a empresa ainda não divulgou as notas de rodapé que explicam como os testes foram feitos. Sem essas informações, não é possível avaliar a configuração, o tamanho dos conjuntos de dados ou a comparação de base. A própria AMD diz que o ganho depende da aplicação: cargas típicas devem reduzir em torno de 20% a 25% da capacidade, e reduções maiores tendem a exigir soluções mais específicas.

Implantação ainda restrita

A implantação está em fase inicial. A AMD instalou a MEXT em 145 servidores internos e prevê chegar a 2.000 no ano que vem. A parceria com a HPE prevê servidores com selo "MEXT Ready", com uma unidade NVMe dedicada ao descarregamento. Na fase 1, esses servidores são EPYC Venice. Na fase 2, a empresa vai licenciar a MEXT e liberar o RAM View, mas não informou quando isso começa. A tecnologia é exclusiva dos EPYC por enquanto. Um eventual suporte a produtos de consumo, como o Strix Halo, foi citado apenas como possibilidade futura.

Para quem projeta ou compra servidores, o ponto central é o custo da memória. A alta de preço da DRAM, puxada pela demanda de IA, afeta empresas mesmo as que não rodam IA. Se os números se confirmarem em cargas de produção, a troca de parte da DRAM por flash e uma unidade NVMe dedicada pode reduzir a compra de memória em projetos novos. Antes disso, vale pedir as notas de rodapé dos testes, medir a carga real no RAM View e checar o prazo da fase 2 com a AMD ou a HPE.