A Spectral Compute introduziu o SCALE, uma nova ferramenta que permite que programas CUDA rodem diretamente em GPUs AMD sem modificações no código, conforme relata o Phoronix. O SCALE pode compilar automaticamente o código CUDA existente para GPUs AMD, o que simplifica muito a transição de software originalmente desenvolvido para hardware Nvidia para outras plataformas, sem quebrar nenhum acordo de licença de usuário final.
O SCALE da Spectral é um kit de ferramentas, semelhante ao CUDA Toolkit da Nvidia, projetado para gerar binários para GPUs não-Nvidia ao compilar código CUDA. Ele busca compatibilidade de fonte com CUDA, incluindo suporte para implementações únicas como inline PTX e a implementação C++ do nvcc, embora possa gerar código compatível com o ROCm 6 da AMD. Uma das grandes vantagens do SCALE é sua capacidade de atuar como um substituto direto para o compilador nvcc da Nvidia. Portanto, ao contrário de outros projetos que traduzem código CUDA para outra linguagem ou usam outros passos manuais, o SCALE compila diretamente as fontes CUDA para GPUs AMD.
A implementação do SCALE aproveita alguns componentes de código aberto do LLVM para criar uma solução que é tanto eficiente quanto amigável ao usuário. O pacote de software visa oferecer uma solução mais integrada e contínua do que o ZLUDA, que é uma camada de tradução proibida de usar. Ele até imita o runtime do Nvidia CUDA Toolkit, facilitando para os desenvolvedores portar seus programas CUDA existentes para hardware AMD.
O SCALE passou por extensivos testes com uma variedade de softwares, incluindo Blender, Llama-cpp, XGboost, FAISS, GOMC, STDGPU, Hashcat e Nvidia Thrust, e provou que funciona de forma estável e correta. Os testes foram conduzidos em GPUs RDNA 2 e RDNA 3, com testes básicos em RDNA 1 e desenvolvimento contínuo para suporte a Vega. No entanto, os desenvolvedores não tiveram acesso às GPUs baseadas em CDNA da AMD.
A falta de suporte para processadores baseados em CDNA é uma desvantagem do SCALE porque o software de datacenter projetado usando CUDA e para hardware compatível com CUDA domina o espaço de IA em rápido crescimento, e muitos desenvolvedores estão interessados em portar seus programas facilmente para plataformas concorrentes, expandindo seu mercado endereçável.
O financiamento para o SCALE foi fornecido pelo negócio de consultoria da Spectral Compute desde 2017, sem apoio financeiro da AMD. Embora o programa não seja de código aberto, há uma Licença de Edição Gratuita disponível, que pode ser usada para aplicações comerciais.
Fonte: Phoronix
