.
OpenAI
Na quarta-feira, a OpenAI anunciou a disponibilidade de APIs de desenvolvedor para seus populares modelos ChatGPT e Whisper AI, que permitirão aos desenvolvedores integrá-los em seus aplicativos. Uma API (interface de programação de aplicativos) é um conjunto de protocolos que permite que diferentes programas de computador se comuniquem entre si. Nesse caso, os desenvolvedores de aplicativos podem estender as habilidades de seus aplicativos com a tecnologia OpenAI por uma taxa contínua com base no uso.
Introduzido no final de novembro, o ChatGPT gera texto coerente em vários estilos. O Whisper, um modelo de fala para texto lançado em setembro, pode transcrever áudio falado em texto.
Em particular, a demanda por uma API ChatGPT tem sido enorme, o que levou à criação de uma API não autorizada no final do ano passado que violou os termos de serviço da OpenAI. Agora, a OpenAI introduziu sua própria oferta de API para atender à demanda. A computação para as APIs acontecerá fora do dispositivo e na nuvem.
A OpenAI chama seu novo modelo de API ChatGPT de “gpt-3.5-turbo”, que substitui sua “melhor” API LLM anterior, “text-davinci-003”. Seu preço é de US$ 0,002 por 1.000 tokens (cerca de 750 palavras), o que a OpenAI diz ser cerca de 10 vezes mais barato do que seus modelos GPT-3.5 existentes. “Através de uma série de otimizações em todo o sistema, alcançamos uma redução de custo de 90% para o ChatGPT desde dezembro”, escreve a OpenAI em sua página de anúncio da API.
OpenAI
Os primeiros usuários da API ChatGPT incluem Snapchat, com seu bot “My AI” que cobrimos na segunda-feira; uma plataforma educacional chamada Quizlet que supostamente ajuda os alunos a estudar; e Instacart, que planeja adicionar “Ask Instacart” ainda este ano para permitir que os clientes perguntem sobre comida.
A Whisper API, que é baseada no modelo de código aberto Whisper-large-v2, está disponível a um preço de US$ 0,006 por minuto. Ele aceita entradas nos formatos M4A, MP3, MP4, MPEG, MPGA, WAV e WEBM e pode traduzir áudio para texto ou transcrever a uma taxa comparável a um transcritor humano qualificado, mesmo com áudio difícil.
Respondendo às preocupações de privacidade sobre a coleta de dados dos clientes, a OpenAI diz que modificou seus termos de serviço (TOS) para não usar mais os dados enviados para melhorias de serviço, incluindo treinamento de modelo futuro. Além disso, possui uma política padrão de retenção de dados de 30 dias para usuários de API, e o TOS enfatiza que os usuários possuem a entrada e a saída dos modelos de IA.
Para seus modelos de IA, a OpenAI também oferece instâncias de nuvem dedicadas em execução no Azure “para usuários que desejam um controle mais profundo sobre a versão do modelo específico e o desempenho do sistema”.
As APIs ChatGPT e Whisper estão disponíveis a partir de hoje. O uso requer uma conta OpenAI e um método de pagamento.
.
