- John Carmack compartilhou uma ideia para usar fibra em vez de RAM
- Esta é uma visão do futuro para a substituição de módulos de RAM em cargas de trabalho de IA
- Embora seja altamente teórico e esteja muito distante, existem outras soluções possíveis de curto prazo para reduzir o apetite consumidor da IA por RAM
John Carmack apresentou uma ideia para usar efetivamente fibra cabos como ‘armazenamento’ em vez de módulos de RAM convencionais, o que é uma visão do futuro particularmente intrigante, dada a atual crise de memória e todos os estragos que ela está causando.
Hardware do Tom notado o cofundador da postagem da id Software no X onde Carmack propõe que um cabo de fibra óptica muito longo – e estamos falando de 200 km de comprimento – poderia efetivamente preencher a RAM do sistema, pelo menos ao trabalhar com Modelos de IA.
Carmack observa: “As taxas de dados de 256 TB/s em distâncias de 200 km foram demonstradas em fibra óptica monomodo, que resulta em 32 GB de dados em voo, ‘armazenados’ na fibra, com largura de banda de 32 TB/s. Inferência e treinamento de rede neural [AI] pode ter padrões determinísticos de referência de peso, por isso é divertido considerar um sistema sem DRAM e com pesos transmitidos continuamente para um cache L2 por um loop de fibra de reciclagem.”
O que isto significa é que o referido comprimento de fibra é um loop onde os dados necessários (normalmente armazenados na RAM) estão sendo “transmitidos continuamente” e mantendo o processador de IA sempre alimentado (já que os pesos do modelo de IA podem ser acessados sequencialmente – isso não funcionaria de outra forma). Essa também seria uma maneira muito ecológica e com economia de energia de concluir essas tarefas, em comparação com a RAM tradicional.
Como aponta Carmack, este é o “equivalente moderno das antigas memórias do tubo de eco de mercúrio”, ou memória de linha de atrasoonde os dados são armazenados em ondas que passam por uma bobina de fio.
Não é uma ideia viável agora, mas um conceito para o futuro, como mencionado – e o que Carmack está argumentando é que é um caminho concebível que possivelmente tem uma “melhor trajetória de crescimento” do que a que estamos vendo atualmente com a DRAM tradicional.
Análise: avançar
Há muito problemas óbvios com RAM neste momento em termos de oferta e procura, com a última superando em muito a primeira, graças ao aumento da IA e aos enormes requisitos de memória nela contidos. (Não apenas para servidores em data centers que atendem às consultas modelos populares de IAmas também RAM de vídeo em placas aceleradoras de IA.)
Portanto, o que Carmack está imaginando é uma maneira diferente de operar com modelos de IA que utilizam linhas de fibra. Isso poderia, em teoria, deixar o resto de nós livres para parar de se preocupar com o custo da RAM de uma quantia ridícula de dinheiro (ou mesmo um PCou um placa gráficae a lista continua com os efeitos indiretos dos preços da crise de memória).
O problema é que existem muitos problemas com essa proposta de fibra, como reconhece Carmack. Isso inclui a grande quantidade de fibra necessária e as dificuldades em manter a intensidade do sinal através do loop.
No entanto, existem outras possibilidades nesse sentido, e outras pessoas têm falado sobre conceitos semelhantes nos últimos anos. Carmack menciona: “De forma muito mais prática, você deve ser capaz de agrupar memória flash barata para fornecer quase qualquer largura de banda de leitura necessária, desde que seja feito uma página por vez e canalizado com bastante antecedência. Isso deve ser viável para servir de inferência hoje se os fornecedores de flash e acelerador puderem concordar com uma interface de alta velocidade. “
Em outras palavras, este é um exército de módulos de memória flash baratos reunidos, trabalhando maciçamente em paralelo, mas, como observa Carmack, a chave seria chegar a um acordo sobre uma interface onde esses chips pudessem funcionar diretamente com o acelerador de IA.
Esta é uma proposta interessante de curto prazo, mas que depende dos fabricantes relevantes (de GPUs e armazenamento de IA) agindo em conjunto e elaborando um novo sistema nesse sentido.
A crise da RAM está prevista para durar este ano, e provavelmente também no próximo ano, potencialmente arrastando-se por ainda mais tempo do que isso, com todo o tipo de sofrimento envolvido para os consumidores. Portanto, procurar soluções alternativas para a memória em termos de modelos de IA pode ser uma busca valiosa para garantir que esta crise de RAM seja o último episódio que teremos de sofrer.
Os melhores laptops para todos os orçamentos
Siga o TechRadar no Google Notícias e adicione-nos como fonte preferencial para receber notícias, análises e opiniões de especialistas em seus feeds. Certifique-se de clicar no botão Seguir!
E, claro, você também pode seguir o TechRadar no YouTube e TikTok para notícias, análises, unboxings em formato de vídeo e receba atualizações regulares nossas em WhatsApp também.