Ciência e Tecnologia

O CEO da Openai, Sam Altman, diz que a empresa está ‘fora de GPUs’

.

O CEO da Openai, Sam Altman, disse que a empresa foi forçada a escalonar o lançamento de seu mais novo modelo, o GPT-4.5, porque o OpenAI está “fora de GPUs”.

Em um Postagem em xAltman disse que o GPT-4.5, que ele descreveu como “gigante” e “caro”, exigirá “dezenas de milhares” a mais GPUs antes que usuários adicionais do ChatGPT possam obter acesso. O GPT-4.5 virá primeiro aos assinantes do ChatGpt Pro a partir de quinta-feira, seguido pelos clientes ChatGPT Plus na próxima semana.

Talvez em parte devido ao seu tamanho enorme, o GPT-4.5 seja muito caro. O OpenAI está cobrando US $ 75 por milhão de tokens (~ 750.000 palavras) alimentados no modelo e US $ 150 por milhão de tokens gerados pelo modelo. Isso é 30x o custo de entrada e 15x o custo de saída do modelo GPT-4O de cavalo de trabalho do OpenAI.

“Estamos crescendo muito e estamos sem GPUs”, escreveu Altman. “Adicionaremos dezenas de milhares de GPUs na próxima semana e lançá -las para o nível mais […] Não é assim que queremos operar, mas é difícil prever perfeitamente surtos de crescimento que levam à escassez de GPU. ”

Altman disse anteriormente que a falta de capacidade de computação está atrasando os produtos da empresa. O OpenAI espera combater isso nos próximos anos, desenvolvendo seus próprios chips de IA e construindo uma enorme rede de datacenters.



.

Mostrar mais

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo