A inteligência artificial (IA) exige enormes quantidades de eletricidade, mas pesquisas direcionadas podem ser a chave para reduzir significativamente esse consumo. Uma equipe de pesquisadores nos EUA desenvolveu uma tecnologia que pode reduzir o consumo de energia necessário para o processamento de IA por um fator de pelo menos mil.
Um grupo de pesquisadores de engenharia da University of Minnesota Twin Cities demonstrou uma tecnologia que aumenta a eficiência da IA e publicou um artigo revisado por pares detalhando seu trabalho e descobertas. O artigo foi publicado na npj Unconventional Computing, uma revista revisada por pares da Nature. Em essência, eles criaram um atalho na prática normal dos cálculos de IA que reduz significativamente a necessidade de energia para a tarefa.
No processamento de IA atual, os dados são transferidos entre os componentes que os processam (lógica) e onde os dados são armazenados (memória/armazenamento). Esse constante vaivém de informações é responsável por consumir até 200 vezes a energia usada no cálculo, de acordo com esta pesquisa.
Assim, os pesquisadores recorreram à Memória de Acesso Aleatório Computacional (CRAM) para resolver isso. A CRAM desenvolvida pela equipe de pesquisa coloca um substrato de computação spintrônica de alta densidade e reconfigurável dentro das próprias células de memória.
Isso difere das soluções de processamento na memória existentes, como a tecnologia PIM da Samsung, pois a solução da Samsung coloca uma unidade de computação (PCU) dentro do núcleo da memória. Os dados ainda precisam viajar das células de memória para a PCU e voltar, embora não tão longe.
Usando CRAM, os dados nunca deixam a memória, sendo processados inteiramente dentro da matriz de memória do computador. De acordo com a equipe de pesquisa, isso permite que o sistema que executa a aplicação de computação de IA tenha uma melhoria no consumo de energia “na ordem de 1.000x em relação a uma solução de ponta”.
Outros exemplos sugerem um potencial de economia de energia ainda maior e processamento mais rápido. Em um teste, realizando uma tarefa de classificação de dígitos manuscritos MNIST, a CRAM provou ser 2.500 vezes mais eficiente em termos de energia e 1.700 vezes mais rápida do que um sistema de processamento próximo à memória usando a tecnologia de nó de 16nm. Esta tarefa é usada para treinar sistemas de IA para reconhecer escrita à mão.
A importância desse tipo de trabalho não pode ser subestimada. Relatórios recentes sugerem que as cargas de trabalho de IA já consomem quase tanta eletricidade quanto a nação inteira de Chipre em 2021. O consumo total de energia foi de 4,3 GW em 2023 e espera-se que cresça a uma taxa de 26% a 36% nos próximos anos. O CEO da Arm sugeriu recentemente que, até 2030, a IA pode consumir um quarto de toda a energia produzida nos EUA.
O primeiro autor do artigo, Yang Lv, pesquisador pós-doutoral do Departamento de Engenharia Elétrica e de Computação da University of Minnesota, e o restante da equipe de pesquisa já solicitaram várias patentes com base na nova tecnologia. Eles planejam trabalhar com líderes da indústria de semicondutores, incluindo aqueles em Minnesota, para fornecer demonstrações em grande escala e produzir o hardware para ajudar a avançar a funcionalidade da IA, tornando-a mais eficiente.
Fonte: Tom’s Hardware
