.
O fornecedor de infraestrutura de IA Voltage Park revelou no domingo que adquiriu 24.000 aceleradores Nvidia H100, que planeja começar a alugar para empresas, startups e instituições de pesquisa no início do próximo ano.
De acordo com Reutersa Voltage Park recebeu US$ 500 milhões em financiamento para comprar os chips de uma organização sem fins lucrativos apoiada pelo bilionário Jed McCaleb, que fez fortuna no mercado de criptografia e desde então mudou para prédio estações espaciais em Vast.
“Poucas pessoas entendem o quanto a escassez de computação está afetando os inovadores de IA”, disse o CEO Eric Park em um comunicado. “As equipes de ML e os fundadores de IA têm que esperar meses ou pagar quantias exorbitantes para acessar o hardware mais recente para seus modelos. Esperamos corrigir esse desequilíbrio e acelerar o trabalho de ponta em IA.”
A Voltage Park afirma que já está alugando recursos de GPU para startups como Imbue e finalizando clusters para Character.ai e Atomic AI. A empresa planeja expandir sua oferta para arrendamentos de longo e curto prazo, bem como fornecer taxas por hora para GPUs individuais no início do próximo ano. Esses recursos serão implantados em locais no Texas, Virgínia e Washington, disse a organização à Reuters.
Como nós discutido no passado, treinar grandes modelos linguísticos pode ser uma perspectiva incrivelmente cara. Modelos como o GPT-3, com centenas de bilhões de parâmetros, geralmente exigem milhares de GPUs em execução por semanas, senão meses, para serem concluídos.
De acordo com o Parque Tensão local na rede Internet, as GPUs podem ser adquiridas por apenas US$ 1,89 por hora por GPU, embora não esteja claro que tipo de compromisso é necessário para obter esse preço. Seja qual for o caso, isso ainda é uma fração do preço que a Amazon Web Services cobra pelo tempo em seus nós P5 equipados com H100. Essas instâncias, que nosso site irmão A próxima plataforma discutido por fim, inclui oito Nvidia H100s e custa US$ 98,32 por hora para preços sob demanda e US$ 43,16 por hora ao assumir um compromisso de três anos.
Embora o preço do Voltage Park permaneça vago, a empresa diz que oferecerá entre uma e oito GPUs para clientes sob demanda, enquanto aqueles que precisam de mais precisarão de mais – entre oito e 248 GPUs – para assinar um contrato de arrendamento de curto prazo. Aqueles dispostos a se comprometer com um arrendamento de um ano poderão acessar até 4.088 H100s. Custando US$ 1,89 por hora por GPU, esta última custaria quase US$ 68 milhões por ano, o que na verdade é uma pechincha.
A Voltage está longe de ser a única empresa que aproveita a demanda por hardware de IA. O fornecedor de infraestrutura de IA CoreWeave também construído um cluster de GPU com mais de 22.000 GPUs H100 em colaboração com a Nvidia. ®
.
