ZLUDA, uma camada de tradução CUDA de código aberto, teve duas vidas bastante vívidas com as GPUs da Intel e depois da AMD. Quase foi encerrada em agosto, quando a AMD solicitou a remoção do código desenvolvido com seus fundos. No entanto, como seu desenvolvedor, Andrzej Janik, garantiu financiamento de um patrocinador misterioso, o ZLUDA agora tem uma terceira vida. Desta vez, o foco do ZLUDA será executar software de IA/ML projetado para GPUs CUDA em processadores de outros fornecedores usando uma camada de tradução, relata o Phoronix.
O ZLUDA foi originalmente projetado para executar aplicativos profissionais criativos baseados em CUDA em GPUs da Intel e depois da AMD, enquanto a próxima iteração do ZLUDA muda o foco para acomodar cargas de trabalho de IA e aprendizado de máquina. Além disso, a ênfase agora não está apenas na Intel ou AMD. Em vez disso, oferece suporte a vários fornecedores de GPU, tornando o ZLUDA aplicável em diferentes arquiteturas de GPU. No entanto, por enquanto, a maioria dos esforços de desenvolvimento está concentrada em GPUs AMD, particularmente arquiteturas RDNA1 e mais recentes. O suporte está sendo construído em torno da pilha de computação ROCm 6.1+ da AMD, estabelecendo as bases para uma compatibilidade mais ampla e multi-arquitetura no futuro.
Andrzej Janik está atualmente trabalhando para fazer com que frameworks de IA/ML como PyTorch, TensorFlow e Llama.cpp funcionem perfeitamente usando CUDA em GPUs não Nvidia usando sua camada de tradução, de acordo com o Phoronix, que conversou com o desenvolvedor. Janik prevê que levará cerca de um ano para desenvolver o novo código ZLUDA para um estado estável onde ele possa lidar efetivamente com cargas de trabalho de IA/ML em várias GPUs. Contribuições da comunidade de código aberto serão bem-vindas à medida que o projeto evolui. Assim, o ZLUDA permanecerá de código aberto, ou pelo menos parece ser assim hoje.
Embora o ZLUDA agora tenha um patrocinador financeiro, o patrocinador optou por permanecer anônimo por enquanto. Só podemos especular quem é o patrocinador, pois eles precisam executar cargas de trabalho de IA em escala e optaram por suporte a vários fornecedores de GPU. Além disso, presumimos que seja grande o suficiente para não ter medo de entrar em conflito ao executar software CUDA por meio de uma camada de tradução, o que a Nvidia não endossa atualmente. No entanto, o desenvolvedor diz que este patrocinador ‘furtivo’ deverá ser revelado mais tarde, proporcionando mais insights sobre a direção e o suporte futuro do ZLUDA.
