.
A rápida adoção da inteligência artificial, especialmente por provedores de nuvem, sobrecarregou a capacidade do datacenter e levou ao aumento dos preços de hospedagem, de acordo com um relatório da empresa de serviços imobiliários e gestão de investimentos JLL.
Relatório de datacenter norte-americano da empresa lançado no domingo, afirma que a escassez de espaço de colocation aumentou os preços entre 20 e 30 por cento ano após ano nos mercados primários.
“Os principais provedores de serviços em nuvem estão crescendo rapidamente para dar suporte aos novos requisitos de IA e à necessidade de mais poder computacional”, diz o relatório. “Isso levou a um aumento significativo no arrendamento no segundo trimestre de 2023.”
Parte do problema é causada pelos sistemas necessários para executar modelos generativos de IA que exigem mais energia e espaço do que o necessário para outras aplicações.
Como já fizemos anteriormente relatado, os clusters de GPU comumente implantados para executar cargas de trabalho de treinamento e inferência de IA não são apenas caros – muitas vezes exigindo milhares de GPUs – mas também extremamente exigentes em termos de gerenciamento de energia e calor. Um nó típico de oito GPU pode consumir facilmente de 6 a 10 kW, dependendo dos aceleradores e das tecnologias de resfriamento empregadas.
“Com o aumento dos requisitos de IA, os operadores de datacenters precisam instalar infraestrutura para acomodar clusters de servidores de alta densidade de potência, com alguns requisitos grandes levando densidades para 50-100kW por rack”, escreveram os autores do relatório da JLL.
A título de comparação, o kit em racks típicos de operadores de hiperescala consome algo entre 6kW e 10kW.
Na esteira do boom da IA, vários fornecedores de colocation introduziram instalações para acomodar a carga de trabalho. Em agosto, por exemplo, a Digital Realty anunciado suporte para implantações de até 70 kW por rack para dar suporte aos clientes que desejam implantar IA e cargas de trabalho de alto desempenho em seus datacenters.
Fazer isso exigiu o uso de “resfriamento líquido assistido por ar” que, como Strong The One entende que isso equivale ao uso de trocadores de calor traseiros para extrair calor de servidores refrigerados a ar. Outros provedores de colocation especializados em IA e computação de alto desempenho têm expandido suporte para resfriamento direto de líquido. A Colovore, com sede em Santa Clara, por exemplo, suportará racks de até 250 kW em um datacenter que planeja colocar online em 2024.
Os fornecedores de infraestrutura de datacenter também estão considerando o desafio representado por plataformas de IA densas e eficientes. Num whitepaper publicado na semana passada, a multinacional francesa Schneider Electric identificado por que as cargas de trabalho de IA eram tão difíceis de trabalhar, ou seja, que uma forma de gerenciar os sistemas é distribuí-los entre racks, mas isso cria gargalos na rede.
De acordo com a JLL, a forte procura por produtos e serviços de IA também está a levar os operadores de datacenters a desenvolver capacidade ainda mais no limite. Normalmente, os provedores de nuvem e os hiperscaladores tendem a construir um punhado de grandes campi em alguns mercados importantes ao redor do mundo.
No entanto, num esforço para reduzir a latência, diz-se que estas empresas estão a construir centros de dados periféricos mais pequenos, na faixa dos 2 a 10 megawatts, para colocar os seus modelos mais próximos dos clientes.
A JLL espera que a crise no fornecimento de datacenters persista até 2024.
“A maior parte do fornecimento que será entregue no terceiro e quarto trimestre de 2023 foi pré-lançado ou está sob exclusividade. Grande parte do fornecimento previsto para 2024 também será pré-lançado”, afirma o relatório.
Como tal, os autores do relatório sugerem que cidades secundárias dos EUA, como Columbus, Salt Lake City, Reno e Austin, podem beneficiar da escassez em centros maiores. ®
.
