.
A IBM está de volta com um chip de processador neuromórfico atualizado que espera permitir uma expansão mais eficiente para poderosos sistemas de hardware de IA, pelo menos no que diz respeito à inferência.
Afirma-se que o chip NorthPole é inspirado na estrutura do cérebro e, em um artigo publicado em Ciênciaé considerado 25 vezes mais eficiente em termos de energia do que uma GPU, ao mesmo tempo que supera em latência ao inferir usando o modelo de rede neural ResNet-50.
Parte da razão para a eficiência energética, disse-nos a IBM, é porque toda a memória necessária para o processamento está no chip. Isto elimina a necessidade de embaralhar dados, que a Big Blue identificou anteriormente como uma fonte de ineficiência energética, bem como de introduzir atrasos.
A IBM também detalhado recentemente um chip analógico de sinal misto para inferência de IA, que afirma ser capaz de combinar GPUs enquanto consome consideravelmente menos energia.
Não podemos executar o GPT-4 nisso, mas poderíamos atender a muitos dos modelos de que as empresas precisam
Diz-se que NorthPole é um desenvolvimento de um chip neural anterior da IBM, Norte verdadeiro, que foi anunciado há quase uma década. O novo dispositivo foi apresentado na conferência Hot Chips do mês passado pelo IBM Fellow e Cientista Chefe Dr. Dharmendra S. Modha, que estava por trás de ambos os chips.
O mais recente silício inspirado no cérebro é composto por 256 núcleos, sendo cada núcleo um mecanismo de multiplicação de matriz vetorial capaz de 2.048 operações por ciclo com precisão de 8 bits. Eles compartilham 192 MB de memória, além de framebuffer de 32 MB para tensores IO. Alega-se que é cerca de 4.000 vezes mais rápido que o TrueNorth.
O artigo descreve o chip como “uma arquitetura de computação espacial de baixa precisão, massivamente paralela, densamente interconectada, energeticamente eficiente e com um modelo de programação co-otimizado e de alta utilização”.
De acordo com Modha, isso confunde a fronteira entre computação e memória. Ele aparece como uma memória ativa externa ao chip, disse ele, o que deve tornar o NorthPole mais fácil de integrar em outros sistemas.
No entanto, como a IBM admite, a NorthPole é limitada pela quantidade de dados que pode caber no espaço de memória do chip. A solução alternativa para permitir que a NorthPole suporte redes neurais maiores é dividi-las em sub-redes menores que caibam e conectar essas sub-redes em vários chips da NorthPole.
“Não podemos executar o GPT-4 nisso, mas poderíamos atender a muitos dos modelos de que as empresas precisam”, explicou Modha. “E, claro, NorthPole serve apenas para inferência”, acrescentou, o que significa que os modelos precisam ser treinados em outro lugar, em um sistema diferente, provavelmente usando GPUs.
Modha disse natureza que os núcleos do Pólo Norte estão ligados entre si numa rede “inspirada nas ligações de matéria branca entre partes do córtex cerebral humano” e afirmou que esta arquitectura é parte do que lhe permite vencer as arquitecturas de IA existentes.
NorthPole é obviamente um protótipo de pesquisa e é fabricado usando um processo de produção de 12 nm. Se o projeto fosse implementado usando processos de fabricação mais atualizados, sua eficiência seria 25 vezes melhor do que a dos projetos atuais, disse a Nature, o que significa que há muito espaço para a IBM melhorar ainda mais seu desempenho.
A IBM disse que os testes do NorthPole se concentraram principalmente em usos relacionados à visão computacional, em parte porque o financiamento para o projeto veio do Departamento de Defesa dos EUA.
No entanto, afirma que muitas aplicações de ponta que requerem grandes quantidades de processamento de dados em tempo real seriam adequadas para o NorthPole, tais como permitir que veículos autónomos reajam a situações inesperadas, algo que é um verdadeiro desafio com a tecnologia actual.
Mas parece provável que qualquer produto baseado no NorthPole provavelmente não chegará ao mercado em breve. Como Strong The One notado no ano passado, os chips neuromórficos existem há anos e cada novo desenvolvimento é aclamado como um avanço, mas de alguma forma não consegue se traduzir em um produto comercial. ®
.
