O Memphis Supercluster de Elon Musk entrou recentemente em operação, e com cem mil GPUs H100 resfriadas a líquido a bordo, este data center certamente consumirá muita energia. Com cada GPU H100 consumindo pelo menos 700 watts, o data center de IA de Musk precisará de mais de 70 megawatts de energia para operar todas as 100.000 GPUs simultaneamente — e isso antes de adicionar todos os servidores de suporte, rede e equipamentos de resfriamento. Surpreendentemente, Musk usa 14 geradores móveis massivos para alimentar a enorme instalação enquanto negocia acordos de fornecimento de energia com as concessionárias locais.
Dylan Patel, um analista de IA e semicondutores que lidera a SemiAnalysis, inicialmente refletiu no X que poderia ter sido impossível para Musk operar o Memphis Supercluster devido a restrições de energia. Ele disse que apenas 7 MW estão sendo retirados da rede, o que só alimentaria cerca de 4.000 GPUs. A Tennessee Valley Authority (TVA) entregará 50 MW para a instalação se a xAI assinar um acordo pendente, mas isso só poderá ocorrer a partir de 1º de agosto. Patel também observou que a subestação de 150 MW no local da xAI ainda está em construção e não será concluída até o quarto trimestre de 2024.
No entanto, após examinar imagens de satélite, Patel logo postou um novo Tweet quando percebeu como Musk fez isso — usando 14 geradores móveis VoltaGrid conectados ao que parecem ser quatro subestações móveis.
Seems to be 14 those puppies at 2.5MW a piece, so 35MW + the 8MW, basically enough for 1 32k island if you’re limiting power someWith 50MW online should be good enough for 2 islandQuestion is how to get to the 100k, either the substation gotta be ahead of schedule or more these pic.twitter.com/qiF31pbtkdJuly 23, 2024
Cada um desses geradores do tamanho de um semi-reboque pode fornecer 2,5 MWe de energia, o que significa que Musk tem incríveis 35 MW de energia disponíveis no local. Quando você combina isso com os 8 MW de energia que o Memphis Supercluster está recebendo da rede, obtém um total de 43 MW — suficiente para operar 32.000 GPUs H100 com potência limitada.
Se a Tennessee Valley Authority entregar os 50 MW que Musk precisa no início de agosto, ele terá energia suficiente para operar 64.000 GPUs simultaneamente. Patel diz que você só precisa de 155 MW para operar 100.000 GPUs, mas a xAI precisa ter a subestação funcionando para conseguir isso. Então, ou a subestação está adiantada no cronograma, ou Musk implantará mais geradores móveis para obter a energia necessária.
Well, that’ll be tough. 1 H100 server is about 7k watts. 1 gallon of gas has 33.7 kWh of energy. With 50% efficiency, I calculate you’ll burn 1 gallon of gas every 0.7s. That’s 124,000 gallons of gas per day. Not sure that’s going to work without special infra.July 22, 2024
Centros de dados de IA precisam de muita eletricidade
O consumo massivo de energia e seu impacto no aquecimento global são os principais problemas que os centros de dados de IA enfrentam agora. Todas as GPUs de data center vendidas em 2023 sozinhas consomem mais energia do que 1,3 milhão de residências americanas médias combinadas, pressionando assim a rede elétrica ao seu limite. E não podemos simplesmente construir mais usinas para atender às necessidades de um data center — também precisamos considerar infraestrutura adicional, como linhas de transmissão de alta tensão, subestações e mais para levar a eletricidade da usina até os servidores.
Além do tempo e custo necessários para construir usinas para computação de IA, também temos que considerar as emissões de gases de efeito estufa. Embora os geradores móveis que Musk implantou em seu Memphis Supercluster usem gás natural como combustível (mais limpo que carvão ou óleo), eles ainda emitem carbono na atmosfera enquanto operam.
O Google revelou recentemente que sua pegada de carbono aumentou 48% desde 2019 devido às demandas de energia dos data centers. Portanto, podemos esperar que a xAI siga o mesmo caminho, a menos que Musk mude para uma forma mais limpa de produção de energia.
Musk está impulsionando a xAI para estar na vanguarda do desenvolvimento de IA, usando todos os meios disponíveis para alcançar isso. No entanto, esperamos que o uso de geradores móveis seja uma solução temporária. O Memphis Supercluster precisa fazer a transição para uma fonte de energia mais limpa, que a TVA pode fornecer. Como esta última usa uma mistura de usinas nucleares, hidrelétricas e de combustíveis fósseis, a pegada de carbono da xAI provavelmente seria menor se obtivesse sua energia dela em vez de depender de geradores móveis que usam apenas gás natural.
Fonte: Tom’s Hardware
