.
Truefoundryuma startup administrada por um grupo de ex -engenheiros para ajudar as empresas a implantar sistemas de IA em escala, levantou US $ 19 milhões em novos investimentos liderados pela Intel Capital.
Com o surgimento de Genai após o lançamento do ChatGPT em novembro de 2022, as empresas de todos os tamanhos analisaram maneiras de adotar a IA. Mas Genai conta com grandes modelos de idiomas para fornecer inteligência (eficiência de leitura), exigindo poder de computação significativo. Nem todas as empresas têm a vantagem de acessar centenas ou milhares de GPUs, tornando essencial a otimização da GPU. Além disso, as empresas precisam experimentar vários modelos para encontrar o melhor ajuste para o seu caso de uso e ajustar os modelos existentes para tornar os sistemas de IA relevantes para suas operações.
A TrueFoundry aborda tudo isso com seu software disponível em um modelo de plataforma como serviço, direcionando os cientistas de dados de pilha completa. Ele fornece recursos como escala automática, manutenção proativa, controles de acesso centralizado e monitoramento em tempo real para simplificar as implantações de IA de ponta a ponta.
Fundada em junho de 2021 pelos ex-engenheiros da Meta Nikunj Bajaj e Abhishek Choudhary, juntamente com o companheiro de lotes do IIT Kharagpur, Anuraag Gutgutia, a Truefoundry ofereceu inicialmente um software nativo de nuvem cruzada para acelerar as implantações de aprendizado de máquina. No entanto, quando a Genai se tornou mainstream em 2023, a startup modificou seu sistema para apoiar as capacidades da Genai.
“Anteriormente, os cientistas de dados só trabalhavam com modelos e experimentavam com eles, mas grande parte da implantação foi entregue aos engenheiros de ML. Com o nosso sistema, o que estamos permitindo é que os próprios cientistas de dados podem realmente construir todo esse sistema complexo e testá -lo em escala antes de entregá -lo à equipe da plataforma para implantações finais ”, disse Gutgutia em entrevista exclusiva.
A startup fornece uma solução de software chamada sistema de piloto automático, que usa a IA para analisar logs e métricas para ajudar a dimensionar os aplicativos de IA ajustando o uso da GPU e corrigindo os requisitos de memória.
Usando o sistema de piloto automático, Gutgutia disse ao Strong The One, um dos clientes da Truefoundry com uma pequena equipe de duas pessoas administrou 10 milhões de solicitações por segundo.
Atualmente, a Truefoundry tem 30 clientes pagos em todo o mundo, juntamente com “muitos” usuários acessando sua estrutura de pano de código aberto para experimentação. Desses clientes, a gigante da GPU Nvidia usa o software para criar e implantar agentes que otimizam seus clusters de GPU. A Med-Tech Company Resmed também usa a oferta da TrueFoundry para desenvolver uma plataforma interna de IA. Da mesma forma, a Siemens Healthineers, a Automation em qualquer lugar, Games24x7 e Whatfix estão entre os clientes.
A startup arquitetou seu software usando o Kubernetes, o que o torna pronto para várias nuvens e compatíveis com todas as principais plataformas de nuvem, incluindo AWS, Google Cloud Platform e Azure, entre outros. Além disso, as empresas podem implantar a plataforma nativamente no local.
As empresas que usam a TrueFoundry construíram e lançaram suas plataformas internas de IA em dois meses e alcançaram seu ROI em quatro meses, diferentemente da média da indústria de 14 meses, afirmou Bajaj. Gutgutia acrescentou que a startup entregou a seus clientes com redução de cerca de 40 a 50% nos gastos com infraestrutura, juntamente com uma melhoria da velocidade de implantação de 10 ×, independentemente se eles estão trabalhando em um agente, um modelo de aprendizado profundo complexo ou um bom e fino modelo sintonizado.
Os fornecedores de nuvem começaram a oferecer seu próprio software para facilitar o edifício e a implantação dos modelos de IA, como o Sagemaker da Amazon e o vértice do Google Cloud. No entanto, Gutgutia disse ao Strong The One que a solução da Truefoundry ainda é pertinente, pois ajuda a “acelerar o uso de computação” para os provedores de nuvem, acelerar o tempo de mercado para aplicativos de IA e reduzir seus custos gerais.
A série A All-Equity A redondou a participação da Eniac Ventures, Peak XV Partners e Jump Capital, além de investidores anjos, incluindo Gokul Rajaram, Mohit Aron e Cyan Bainster.
A startup utilizará o financiamento para expandir a equipe de 45 membros baseados na Índia para posições de entrada no mercado nos EUA, incluindo vendas, sucesso do cliente e funções de marketing de produtos. Ele também planeja investir em parcerias, especialmente com fornecedores de nuvem e está no processo de ser listado nos principais mercados em nuvem, começando no AWS Marketplace.
Além disso, a TrueFoundry pretende lançar seu agente de IA que ajudará a sugerir os recursos certos e permitir a escala automática, bem como a solução de problemas.
Com o novo financiamento, a Truefoundry arrecadou mais de US $ 21 milhões no total, incluindo os US $ 2,3 milhões em sua rodada de sementes em setembro de 2022, liderada pelo pico XV (então sequoia Índia).
A startup quadruplicou sua base de clientes no ano passado e implantou mais de 1.000 clusters entre os clientes para cargas de trabalho da ML. Gutgutia também disse ao Strong The One que está no “norte de US $ 1,5 milhão de ARR” e está procurando dobrar este ano.
.
