Os processadores Blackwell da Nvidia estão entre os hardwares de data center mais procurados atualmente, à medida que as empresas buscam treinar modelos de linguagem de grande escala (LLMs) com um número cada vez maior de parâmetros. Havia rumores de que a Microsoft seria a primeira empresa a ter acesso aos servidores Blackwell, mas essa informação não era oficial. Hoje, a empresa afirmou que não apenas obteve as peças Blackwell da Nvidia, mas que elas já estão em funcionamento.
“A Microsoft Azure é a primeira provedora de serviços em nuvem a operar o sistema Blackwell da Nvidia com servidores de IA alimentados pelo GB200,” diz uma postagem da Microsoft Azure no X. “Estamos otimizando em todas as camadas para alimentar os modelos de IA mais avançados do mundo, aproveitando a rede Infiniband e o inovador sistema de resfriamento líquido de circuito fechado. Saiba mais no MS Ignite.”
Portanto, a Microsoft Azure possui pelo menos um rack de servidor baseado no GB200 com um número desconhecido de processadores B200 — presumivelmente 32. Ele utiliza um sistema de resfriamento líquido altamente sofisticado. A máquina não é o NVL72 GB200 da Nvidia, que a Microsoft supostamente prefere em vez de variantes menos densas. Este rack específico provavelmente será usado para fins de teste (tanto das GPUs Blackwell da Nvidia quanto do sistema de resfriamento líquido), e nos próximos meses a Microsoft implantará servidores baseados em Blackwell para cargas de trabalho comerciais.
Espera-se que uma máquina NVL72 GB200 com 72 processadores gráficos B200 consuma e dissipe cerca de 120 kW de potência, tornando o resfriamento líquido obrigatório para tais máquinas. Como resultado, é uma boa ideia para a Microsoft testar sua própria solução de resfriamento líquido antes de implantar gabinetes baseados em Blackwell.
A GPU B200 da Nvidia oferece desempenho 2,5 vezes maior em comparação com o processador H100 quando se trata de desempenho FP8/INT8 (4.500 TFLOPS/TOPS vs 1.980 TOPS). Com o formato de dados FP4, a B200 da Nvidia oferece impressionantes 9 PFLOPS de desempenho, abrindo portas para o treinamento de LLMs extremamente sofisticados que podem viabilizar novos modelos de uso para a IA em geral.
“Nossa parceria de longa data com a NVIDIA e inovação profunda continua a liderar o setor, alimentando as cargas de trabalho de IA mais sofisticadas,” disse Satya Nadella, CEO da Microsoft, em outra postagem no X.
Espera-se que a Microsoft compartilhe mais detalhes sobre suas máquinas baseadas em Blackwell e projetos de IA em geral em sua conferência anual Ignite. A conferência MS Ignite ocorrerá em Chicago de 18 a 22 de novembro de 2024. A implantação em larga escala das instalações de servidores Blackwell deve aumentar no final deste ano ou no início de 2025.
Fonte: Tom’s Hardware