Framework Desktop terá 192 GB de RAM para rodar IA local

Rodar modelos de linguagem grandes na própria mesa, sem nuvem e sem mensalidade, está deixando de ser exercício de entusiasta. A Framework confirmou uma configuração de 192 GB de memória unificada para IA local no Framework Desktop, movida pelo processador AMD Ryzen AI Max+ Pro 495, codinome Gorgon Halo.

Segundo reportagem do HotHardware, a página oficial do produto já exibe uma aba com o aviso “192GB coming soon”, acima das opções atuais de 32 GB, 64 GB e 128 GB.

Por que 192 GB muda o jogo para LLM local

O gargalo para rodar modelos abertos localmente nunca foi processamento puro — é memória. Um modelo de 70 bilhões de parâmetros, dependendo da quantização, exige dezenas de gigabytes só para ser carregado. Modelos de 120 bilhões ou mais estouram qualquer placa de vídeo de consumo.

A saída tradicional é cara: encadear várias GPUs de alto custo ou alugar infraestrutura em nuvem. Com 192 GB de memória unificada, o modelo inteiro cabe na memória de sistema de uma única máquina compacta — a arquitetura Ryzen AI Max permite que a GPU integrada acesse a maior parte dessa memória diretamente.

A memória é unificada: o que isso significa

Em um PC tradicional, RAM e VRAM são pools separados. O modelo precisa caber na memória da placa de vídeo, ou o desempenho despenca. Em arquiteturas de memória unificada, CPU e GPU compartilham o mesmo pool — é a mesma abordagem que a Apple usa no Apple Silicon e que a NVIDIA adotou nos sistemas RTX Spark.

O detalhe que o marketing não destaca: largura de banda

Aqui está o ponto crítico. A Framework anuncia largura de banda de 273 GB/s na nova configuração — apenas 6,6% acima dos 256 GB/s dos modelos de 128 GB com LPDDR5X-8000, o que indica o uso de memória LPDDR5X-8533.

Isso importa porque a velocidade de geração de tokens em LLM local é limitada principalmente pela largura de banda de memória, não pela capacidade. Ou seja: com 192 GB você consegue carregar modelos maiores, mas eles vão responder de forma proporcionalmente mais lenta. Capacidade e velocidade são coisas diferentes, e confundir as duas leva a expectativas frustradas.

Há ainda outra limitação estrutural apontada pelo HotHardware: processador e memória são soldados à placa-mãe no Framework Desktop. Não existe upgrade de RAM depois da compra — a decisão de capacidade é definitiva.

IA local x nuvem: quando cada uma faz sentido para empresas

Quando a IA local vence

• Dados sensíveis: informação de cliente, prontuário, contrato e documento jurídico que não pode sair da rede da empresa.
• LGPD e compliance: processamento local elimina a discussão sobre transferência internacional de dados.
• Custo previsível: hardware é CAPEX único; API de nuvem é OPEX que cresce com o uso.
• Uso intenso e contínuo: a partir de certo volume de tokens por mês, a infraestrutura própria se paga.

Quando a nuvem vence

• Uso esporádico: não faz sentido imobilizar capital para poucas consultas por semana.
• Necessidade dos modelos de ponta: os melhores modelos comerciais ainda não rodam localmente.
• Times distribuídos: acesso remoto sem investimento em rede e segurança perimetral.

O que isso significa para o comprador brasileiro

O cenário brasileiro tem duas particularidades. A primeira é o preço da memória: com a demanda global por IA pressionando a produção de DRAM, configurações de alta capacidade estão ficando desproporcionalmente caras. A segunda é a soberania de dados — para empresas de saúde, jurídico e financeiro, manter o processamento dentro da própria infraestrutura resolve uma dor de compliance que nenhum contrato de nuvem elimina totalmente.

Para quem está avaliando, o caminho racional é começar medindo: qual volume real de inferência a empresa consome hoje? Sem esse número, qualquer decisão entre local e nuvem é chute.

Perguntas frequentes

Quanta memória preciso para rodar um LLM local?

Depende do modelo e da quantização. Modelos de 7B a 13B rodam confortavelmente com 16 a 32 GB. Modelos de 70B exigem tipicamente 48 GB ou mais. Acima de 120B, 128 GB a 192 GB.

Memória unificada é melhor que placa de vídeo dedicada para IA?

Para carregar modelos muito grandes, sim — a capacidade é maior. Para velocidade de geração, GPUs dedicadas com HBM ainda têm largura de banda muito superior.

Dá para fazer upgrade de RAM no Framework Desktop?

Não. No Framework Desktop, processador e memória são soldados à placa principal, então a capacidade escolhida na compra é definitiva.

A GOIG atende projetos de infraestrutura para IA?

Sim. A GOIG fornece computadores, workstations e infraestrutura com nota fiscal eletrônica, faturamento em até 90 dias para CNPJ e orçamento rápido especializado.

Fonte original: HotHardware. Imagem: reprodução / HotHardware (Framework).