.
A Digital Realty anunciou suporte para implantações de alta densidade de até 70 quilowatts por rack em uma tentativa de capitalizar a crescente demanda por IA e cargas de trabalho de computação de alto desempenho (HPC).
Embora as implantações de alta densidade não sejam novas entre os provedores de colo, elas estão longe de ser a norma. Um rack de datacenter típico pode suportar implementações entre 6-10kW. No entanto, para clientes que precisam de mais energia, celeiros de bits como a Digital Realty foram capazes de suportar densidades de até 90kW, CTO Chris Sharp contado nosso site irmão A Próxima Plataforma mês passado.
O que a Digital Realty pretende fazer, a julgar pelo anúncio de segunda-feira, é tornar as implantações de rack densas mais acessíveis, padronizando as configurações em torno de cargas de trabalho específicas, incluindo treinamento e inferência de IA generativa com alto consumo de energia.
Esses serviços de alta densidade suportam configurações de até 70kW e agora estão disponíveis em 28 mercados na maioria das regiões globais. Embora isso possa parecer muita potência, funciona entre cinco e seis nós de GPU de alta especificação por rack, com espaço de sobra para armazenamento e rede de alta velocidade.
Claro, toda essa energia acaba sendo convertida em calor. Para lidar com isso, o colo está usando “resfriamento líquido assistido por ar”. Abordamos a Digital Realty para obter mais detalhes sobre quais tecnologias isso abrange, mas com base em bate-papos anteriores com a Digital Realty, podemos supor que eles estão falando sobre trocadores de calor de porta traseira (RDHx).
O tipo de tecnologia RDHx implantado pela Digital Realty pode ser comparado a grandes radiadores que são aparafusados na parte de trás de um rack. À medida que o refrigerante flui através do radiador – seja do sistema de água da instalação ou de um sistema de circuito fechado alojado no corredor – ele puxa o calor do ar à medida que é expelido dos servidores. O RDHx provou ser popular entre os provedores de colocation, pois permite maior potência de rack e densidades térmicas, evitando a ladainha de padrões conflitantes que acompanham a adoção da tecnologia de refrigeração direta por líquido ou imersão.
Racks mais potentes para chips mais quentes e densos
Como sabemos, os chips em geral esquentam rapidamente — um problema que foi destacado pelo Uptime Institute no início deste ano.
Com o lançamento dos processadores de quarta geração da Intel e da AMD, as CPUs mais poderosas dos fabricantes de chips agora são capazes de consumir 350W e 400W, respectivamente. Espera-se que as peças de última geração de ambos os fabricantes de chips usem ainda mais energia. Instinto da AMD APU MI300Apor exemplo, está classificado para 850 W quando for lançado ainda este ano.
“Se você olhar para os roteiros de silício da Intel, Nvidia e AMD, essas coisas são aquecedores de ambiente”, brincou Zachary Smith, chefe global de serviços de infraestrutura de ponta da Equinix em uma entrevista com Strong The One último outono.
Em troca desse maior consumo de energia, os fabricantes de chips conseguiram inserir mais núcleos mais rápidos. Idealmente, isso significa que os clientes podem conviver com menos servidores. como AMD reivindicado durante o lançamento do processador Genoa no outono passado, a maior contagem de núcleos oferecida por seus chips significava que os clientes poderiam condensar 15 sistemas Intel Ice Lake de alta especificação em apenas cinco usando seus chips. Mas, como o Uptime observou, poucos datacenters legados estão realmente equipados para lidar com sistemas tão densos. E, a menos que as capacidades do rack sejam aumentadas, o valioso espaço do gabinete pode ser desperdiçado.
Alta densidade é quente
A Digital Realty não é a única provedora de colocation que está se adaptando às mudanças nos requisitos de energia e temperatura. Em um postagem no blog Na segunda-feira, a Equinix destacou muitos dos desafios associados ao suporte à adoção de IA em larga escala em seus datacenters.
“As cargas de trabalho de treinamento de IA generativa podem consumir vários megawatts de energia, portanto, os datacenters precisam fornecer circuitos de energia que possam transportar mais energia para os racks”, diz a postagem do blog. “Como os racks generativos de GPU AI podem consumir mais de 30kW de energia por rack, o resfriamento a ar tradicional não é eficiente o suficiente.”
Os sistemas DGX H100 da Nvidia, por exemplo, são classificados para 10,2 kW por peça e são projetados para serem implantados quatro em um rack para aproveitar a malha de alta largura de banda usada para mesclar as GPUs.
Em entrevista com Strong The One nesta primavera, o CTO da Cyxtera Field, Holland Barry, disse que o provedor de colocation estava vendo um aumento na demanda por racks de 30-34 quilowatts para acomodar suas cargas de trabalho de HPC. No caso extremo, Barry disse que a empresa recebeu pedidos de até 100kW para um único rack.
Enquanto isso, outros provedores de colocation apostaram em HPC e IA, construindo instalações especificamente adaptadas para esse caso de uso. Um exemplo é o Colovore, que anunciado um datacenter de 9 megawatts em Santa Clara, Califórnia, que suportaria densidades de rack de até 250kW usando resfriamento líquido direto quando entrar em operação no ano que vem. ®
.
