.
Todo mundo está falando sobre a mais nova IA e o poder das redes neurais, esquecendo que o software é limitado pelo hardware no qual é executado. Mas é o hardware, diz Joshua Yang, professor de engenharia elétrica e de computação da USC, que se tornou “o gargalo”. Agora, a nova pesquisa de Yang com colaboradores pode mudar isso. Eles acreditam ter desenvolvido um novo tipo de chip com a melhor memória de qualquer chip até agora para edge AI (AI em dispositivos portáteis).
Nos últimos 30 anos, aproximadamente, enquanto o tamanho das redes neurais necessárias para aplicativos de IA e ciência de dados dobrava a cada 3,5 meses, a capacidade de hardware necessária para processá-las dobrava apenas a cada 3,5 anos. Segundo Yang, o hardware apresenta um problema cada vez mais grave para o qual poucos têm paciência.
Governos, indústria e academia estão tentando enfrentar esse desafio de hardware em todo o mundo. Alguns continuam trabalhando em soluções de hardware com chips de silício, enquanto outros estão experimentando novos tipos de materiais e dispositivos. O trabalho de Yang cai no meio – concentrando-se em explorar e combinar as vantagens dos novos materiais e da tecnologia tradicional de silício que poderia suportar IA pesada e computação de ciência de dados.
Seu novo papel em Natureza concentra-se na compreensão da física fundamental que leva a um aumento drástico na capacidade de memória necessária para o hardware de IA. A equipe liderada por Yang, com pesquisadores da USC (incluindo o grupo de Han Wang), do MIT e da Universidade de Massachusetts, desenvolveu um protocolo para dispositivos que reduzem o “ruído” e demonstrou a praticidade de usar esse protocolo em chips integrados. Esta demonstração foi feita na TetraMem, uma empresa iniciante cofundada por Yang e seus coautores (Miao Hu, Qiangfei Xia e Glenn Ge), para comercializar a tecnologia de aceleração de IA. De acordo com Yang, este novo chip de memória tem a maior densidade de informação por dispositivo (11 bits) entre todos os tipos de tecnologias de memória conhecidas até agora. Esses dispositivos pequenos, mas poderosos, podem desempenhar um papel crítico em trazer uma potência incrível para os dispositivos em nossos bolsos. Os chips não são apenas para memória, mas também para o processador. E milhões deles em um pequeno chip, trabalhando em paralelo para executar rapidamente suas tarefas de IA, poderiam exigir apenas uma pequena bateria para alimentá-lo.
Os chips que Yang e seus colegas estão criando combinam silício com memristores de óxido de metal para criar chips poderosos, mas com baixo consumo de energia. A técnica se concentra em usar as posições dos átomos para representar informações, em vez do número de elétrons (que é a técnica atual envolvida em cálculos em chips). As posições dos átomos oferecem uma maneira compacta e estável de armazenar mais informações de forma analógica, em vez de digital. Além disso, as informações podem ser processadas onde estão armazenadas, em vez de serem enviadas para um dos poucos ‘processadores’ dedicados, eliminando o chamado ‘gargalo von Neumann’ existente nos sistemas de computação atuais. Dessa forma, diz Yang, a computação para IA é “mais eficiente em termos de energia com maior rendimento”.
Como funciona
Yang explica que os elétrons que são manipulados em chips tradicionais são “leves”. E essa leveza os torna propensos a se movimentar e serem mais voláteis. Em vez de armazenar memória por meio de elétrons, Yang e colaboradores estão armazenando memória em átomos completos. Eis por que essa memória é importante. Normalmente, diz Yang, quando se desliga um computador, a memória de informações desaparece – mas se você precisar dessa memória para executar uma nova computação e seu computador precisar de todas as informações novamente, você perdeu tempo e energia. Esse novo método, focado na ativação de átomos em vez de elétrons, não requer bateria para manter as informações armazenadas. Cenários semelhantes acontecem em cálculos de IA, onde uma memória estável capaz de alta densidade de informações é crucial. Yang imagina essa nova tecnologia que pode habilitar uma poderosa capacidade de IA em dispositivos de ponta, como o Google Glasses, que ele diz ter sofrido anteriormente de um problema frequente de recarga.
Além disso, ao converter chips para depender de átomos em vez de elétrons, os chips se tornam menores. Yang acrescenta que, com esse novo método, há mais capacidade de computação em menor escala. E esse método, diz ele, poderia oferecer “muito mais níveis de memória para ajudar a aumentar a densidade da informação”.
Para contextualizar, agora, o ChatGPT está sendo executado em uma nuvem. A nova inovação, seguida de algum desenvolvimento adicional, pode colocar o poder de uma mini versão do ChatGPT no dispositivo pessoal de todos. Isso poderia tornar essa tecnologia de alta potência mais acessível e acessível para todos os tipos de aplicações.
.
