O desenvolvimento de GPUs para IA está avançando a uma velocidade alucinante, e Elon Musk quer estar na vanguarda dessa revolução. Em um post no X, o CEO da SpaceX e Tesla revelou que deseja comprar 300.000 unidades das mais recentes GPUs Blackwell B200 da Nvidia até o próximo verão. As novas GPUs atualizarão o cluster de IA existente do X, que atualmente consiste em 100.000 GPUs H100 da geração anterior.
100.000 H100 GPUs já representam uma quantidade enorme de poder de computação, mas Elon afirma que, dado o ritmo de desenvolvimento das GPUs para IA, não vale a pena manter o enorme conjunto de GPUs H100 do X por muito tempo, principalmente devido ao seu consumo de energia de 1 gigawatt.
Given the pace of technology improvement, it’s not worth sinking 1GW of power into H100s. The @xAI 100k H100 liquid-cooled training cluster will be online in a few months. Next big step would probably be ~300k B200s with CX8 networking next summer. June 2, 2024
O X usa o enorme conjunto de GPUs para IA para o Grok, um bot de IA. A IA foi desenvolvida em uma linguagem caseira chamada Grok-1, que visa fornecer respostas menos diretas, bem como respostas espirituosas/comédicas em comparação com o ChatGPT/Copilot e o Gemini. Basicamente, está tentando tirar o aspecto “robô” do bot de IA. O novo bot de IA está disponível para os usuários do X agora; no entanto, você precisará ser um usuário X Premium para ter acesso ao bot de IA.
A lógica de Musk tem mérito. A corrida pelo desenvolvimento de GPUs para IA é uma das mais acirradas que vimos em anos na indústria tecnológica, rivalizando com as guerras de desenvolvimento de CPUs que tivemos nas décadas de 1990 e 2000. A nova Blackwell B200 da Nvidia é uma atualização maciça em relação à H100, oferecendo quatro vezes o desempenho de treinamento e 30 vezes o desempenho de inferência.
Tecnicamente, a B200 consome mais energia. No entanto, as melhorias colossais de desempenho da B200 significam que o chip funciona significativamente mais eficientemente do que a H100. No caso de Musk, trocar 100.000 H100s por três vezes mais GPUs que consomem ainda mais energia ainda é um ganho líquido devido à incrível quantidade de desempenho adicional de IA das GPUs.
Será interessante ver quando Musk conseguirá colocar as mãos em todas as 300.000 GPUs B200. Se a H100 da Nvidia nos ensinou algo, é que a demanda por GPUs para IA sempre supera a oferta real. Provavelmente veremos uma repetição de 2023, quando todos os grandes clientes de IA, incluindo X, Meta, Google, Microsoft e outros, estarão lutando para pegar o máximo de B200s que a Nvidia conseguir produzir pelos próximos meses.
Fonte: Tom’s Hardware
