Lamini AI agora suporta GPUs Nvidia e AMD

Lamini AI foi uma das primeiras empresas a obter os chips AMD Instinct MI300X AI e ganhou fama por ser uma empresa totalmente AMD, uma raridade em um mundo dominado pela Nvidia. O CEO até brincou com a Nvidia sobre a escassez de GPUs, destacando que a empresa já tinha GPUs AMD em estoque. No entanto, parece que não se pode realmente ignorar o líder de mercado quando ele controla a maior parte do mercado de hardware de IA, então este mês, a Lamini AI anunciou que otimizaria sua pilha de software também para o hardware da Nvidia.

“Estou muito ansiosa para colaborar e fazer parceria com a Nvidia para otimizar ainda mais nossa pilha no hardware da Nvidia”, escreveu Sharon Zhou, fundadora e CEO da Lamini AI, em um post no X.

Quando questionada sobre a posição da empresa em relação ao hardware da AMD, Zhou indicou que, embora a Lamini AI tenha colaborado com a AMD, a parceria não é exclusiva. Além disso, a empresa também está aberta a trabalhar com outros fornecedores de hardware. Na verdade, Zhou até disse que colaborações com outros desenvolvedores de hardware podem ser boas para a AMD, pois isso pode eventualmente levar certos usuários finais com GPUs Nvidia a migrar para a AMD Instinct.

“Somos parceiros da AMD — eles são incríveis — eu acredito totalmente em Lisa”, respondeu o chefe da Lamini AI em outro post. “A parceria é profunda e não exclusiva. É difícil ver de fora, mas estrategicamente isso nos ajuda a implantar para mais clientes que já possuem GPUs Nvidia e, a partir daí, ajudá-los a migrar para GPUs AMD sem alterações no código também. Espero que façamos parceria com ainda mais fornecedores de computação no futuro.”

A Lamini AI é uma plataforma empresarial projetada para ajudar organizações a desenvolver, ajustar e implantar grandes modelos de linguagem (LLMs) de forma eficiente. A plataforma oferece uma solução abrangente para gerenciar todo o ciclo de vida dos LLMs, desde a seleção e ajuste do modelo até a implantação e inferência.

Por exemplo, com técnicas avançadas de ajuste de memória, a Lamini garante mais de 95% de precisão factual, reduzindo significativamente alucinações e melhorando a confiabilidade de seus modelos. Além disso, as capacidades de alto desempenho da Lamini AI permitem que ela lide com até 52 vezes mais consultas por segundo em comparação com outras soluções, reduzindo a latência e melhorando a experiência do usuário.

Dada a especialização da Lamini AI, é bastante difícil para a empresa ignorar o hardware da Nvidia, já que a maioria de seus potenciais clientes pode acreditar que as GPUs H100 e H200 da Nvidia são as mais adequadas para suas cargas de trabalho. Para esse fim, a plataforma suporta implantação em vários ambientes, incluindo on-premise, data centers privados e nuvens públicas, e é compatível com GPUs AMD e Nvidia (embora a empresa tenha feito piadas sobre as GPUs da Nvidia no passado). É notável que o diretor de tecnologia da empresa, Greg Diamos, é um ex-arquiteto de software CUDA da Nvidia, então a empresa tem alguma experiência com CUDA.