.
O boom de Genai dos últimos anos lançou uma onda de startups prometendo apoiar o processo de engenharia imediata – ou seja, apresentando instruções para direcionar com precisão um chatbot de AI para servir a saída útil. Então, pense em ferramentas como o ChatGPT do OpenAI e o Gemini do Google, que apresentam ao usuário um campo em branco para a consulta – e onde você pergunta e também como o pergunta pode levar a resultados muito diferentes.
Nova York PromptLayer Entraram nesse espaço cedo, lançando uma ferramenta para ajudar os desenvolvedores de aplicativos a gerenciar o processo de promoção há cerca de dois anos. Seus fundadores estavam brincando com os próprios chatbots da AI e queriam que algo acompanhasse seu próprio impulso, o co-fundador do Relating Jared Zoneraich (um ex-aluno do Strong The One Disrupt Hackathon, na foto acima à esquerda com o co-fundador Jonathan Pedoeem).
Por um capricho, eles colocaram seu MVP por aí (em X) e a ferramenta que construíram para si deram um respingo, para que continuassem construindo. Desde então, evoluiu para um produto de gerenciamento imediato que está vendendo para empresas de terceiros para apoiar o desenvolvimento de aplicativos de IA, sugerindo sua produtividade.
Embora o espaço de suporte imediato tenha esquecido consideravelmente nos anos desde que o PromptLayer lançou um MVP que eles passaram a construir uma plataforma de gerenciamento de prompt de destaque – oferecendo uma interface visual embalada com ferramentas para gerenciar e monitorar o processo de tentativa de extrair o Melhor valor da LLMS.
Agora eles fecharam um aumento de US $ 4,8 milhões para continuar construindo impulso para sua abordagem. A rodada é liderada por Ivan Bercovich (Scop Venture Partners), com Peter Boyce II (Capital de estellation) participando de novo (ele também financiou a pré-semente), junto com vários anjos e fundadores e operadores da IA-incluindo Michael Akilian, Joshua Browder, Byrne Hobart, Romain Huet, Josh Kamdjou, Logan Kilpatrick, Ben Lang, Alex Oppenheimer, Gokul Rajaram , Gabriel Stengel e Luis Voloch.
Mantendo os guias sobre os prompts
Zoneraich diz que o núcleo do produto do PromptLayer é um “registro rápido”. “É o CMS, é o controle de versão para instruções”, explica ele. “Você tem um rápido, cria uma nova versão, pode ver por que as versões são diferentes e, em seguida, você pode escolher qual versão é sua versão de produção … é como o centro do nosso produto – e tudo meio que se expande disso e tenta Torne isso mais útil. ”
“Por exemplo, testes sobre isso, ou registra o topo do de quando você usa qual prompt, ou testes A/B entre os prompts, e como idéias mais profundas sobre qual versão é a melhor.”
A plataforma foi projetada para apoiar os clientes para testar e avaliar diferentes instruções para o seu caso de uso de aplicativos específico – digamos um aplicativo de treinamento de IA ou um chatbot para o suporte ao cliente – permitindo que eles testem como diferentes versões de avisos se executam em uma variedade de LLMs; E, de maneira mais geral, lide com esse corajoso novo mundo do desenvolvimento de aplicativos, onde o idioma necessário para comandar a tecnologia de ponta é, principalmente, apenas palavras (em vez de código).
Invulgarmente para um fabricante de ferramentas de desenvolvimento, o PromptLayer está deliberadamente focado em usuários não técnicos.
Zoneraich diz que eles fizeram uma escolha consciente para construir um negócio de gerenciamento imediato voltado para o que ele se refere como “especialistas em domínio” – ou seja, profissionais com especialização importante em seu campo, seja educação, jurídica, assistência médica e assim por diante – depois de encontrarem Os primeiros usuários estavam trazendo não codificadores para a festa de desenvolvimento de aplicativos.
“Acreditamos que você não pode construir a IA da saúde sem médicos, IA legal sem advogados ou terapia IA sem terapeutas”, escreve a startup em uma declaração de missão que diz que sua ferramenta de software “permite que especialistas em domínio e engenheiros colaborem usando nosso CMS visual Prompt Visual . ”
Zoneraich vai mais longe – dizendo que a plataforma coloca especialistas em domínio no “banco do motorista” do desenvolvimento de aplicativos.
“Isso se torna algo em que eles precisam ser treinados – mas não é um grande salto”, ele sugere. “Não é como se eles tenham que aprender a codificar. Portanto, é algo que a pessoa comum pode entender. ”
Tomando uma tachinha diferente
Dado como Genai abriu a caixa de ferramentas da AI-obrigado, em grande parte, à decisão do OpenAI de incorporar IA generativa em uma interface de linguagem natural acessível-a opção de se concentrar nas ferramentas para usuários não técnicos faz sentido lógico. No entanto, Zoneraich considera que os diferencia da maioria dos jogadores no espaço.
“Estamos adotando uma abordagem muito diferente de todos os outros”, ele sugere durante uma ligação com o Strong The One. “Todo esse conceito de especialistas em domínio liderando a acusação – basicamente ninguém está fazendo isso. Acho que aprendemos com nossos clientes. Mas no Vale do Silício, é um pouco menos sexy para construir para os não técnicos, e não para os técnicos. ”
“Acho que não precisamos convencer alguém que essa é a maneira certa de fazê -lo. Eu acho que o mercado fará isso falando por nós “, continua ele, argumentando:” Eu não acho que você pode ganhar em muitos desses domínios sem empregar especialistas em domínio [to do prompt engineering].
“De qualquer forma, não há engenheiros suficientes, mesmo que quiséssemos funcionar tudo com engenheiros”.
No lado da IA Tecnicamente Focada, o nome de Zoneraich verifica os gostos de Zapier-além de apontar para o que ele se refere como empresas de “LLM Ops” como Braintrust e Langchain – Quando discutimos o cenário competitivo. “Mas acho que todo mundo está se encaixando nisso [tools for technical users]”Ele afirma, dizendo que é sua convicção que, para a maioria das empresas que buscam alavancar o poder do LLMS, os especialistas relevantes de domínio para o aplicativo que desejam construir não serão funcionários técnicos.
Ele também acha que as habilidades necessárias para ser um bom engenheiro rápido não são necessariamente as mesmas que são uma boa programadora.
“A habilidade de engenharia imediata não está 100% correlacionada com os engenheiros. Há uma subseção, mas é realmente um tipo de habilidade do Tinker [that’s required] … ‘Eu só vou tentar essa coisa aleatória, e então vou ver qual é a saída’ ”, ele nos diz. “Algumas pessoas tentam realmente planejar e fazer pesquisas sobre o que deve ser o prompt. E na minha opinião, essas pessoas não são boas em [prompt engineering] Porque não há realmente uma ciência. ”
“Acho que quanto menos você tenta entender o LLM, melhor você for”, acrescentou.
Demanda de construção
Zoneraich é otimista sobre o tamanho da necessidade do mercado para as ferramentas para tirar o melhor proveito dos LLMs. Ele também não está preocupado com o fato de esse campo recém-emergido de engenharia imediata acabar com um pontinho na história do trabalho que é rapidamente coletado por novos desenvolvimentos no mercado de Genai em ritmo acelerado.
Até uma AGI – era uma IA geralmente inteligente a ser trazida a existir – precisaria algo Para trabalhar, ele argumenta, o que implica que os seres humanos ainda precisarão de alguma forma de ferramentas/suporte para cutucar as máquinas no futuro próximo.
“A parte mais difícil é, o que eu faço com isso? A parte mais difícil é: que tarefa eu dou para resolver? ” Ele diz, ressaltando a confiança do prompt que está construindo ferramentas a longo prazo. “A parte difícil é definir o que fazer.”
“Se você acredita que não há uma solução perfeita para muitos desses problemas, existem maneiras infinitas de resolvê -la, e esse é o trabalho do engenheiro rápido – para escolher que problema estou resolvendo? Qual é o contexto para resolver o problema? ” Ele continua.
“O LLM é apenas a ferramenta a passar da definição de problemas para a solução, mas você está apenas movendo a camada de abstração … Nós a afastamos do código da máquina para as modernas linguagens de programação. Em seguida, mudamos de linguagens de programação modernas para prompts. E talvez vamos movê -lo de avisos brutos para ser como entrada para os avisos ”, disse ele.
“Mas no final do dia, você ainda precisa de alguma entrada. Há essa parte irredutível disso. ”
A rodada de sementes será usada para expandir a equipe (atualmente oito pessoas), com foco em adicionar talentos internos de engenharia para garantir a qualidade e a confiabilidade do serviço para os clientes, por Zoneraich. Ele diz que eles também querem expandir a plataforma para servir mais casos de uso e aumentar o uso-além de colocar esforço e energia na construção da comunidade para ajudar a nutrir esse campo que se desenrola de engenharia imediata.
“O júri não sai sobre como é um engenheiro rápido ou o que é um engenheiro rápido. E acho que é nosso trabalho criar uma comunidade em torno disso – seja como um pioneiro desse pronta de engenharia e mostrar às pessoas como fazê -lo. Então esse é um grande foco. ”
O PromptLayer não está divulgando quantos clientes pagantes ele possui por suas ferramentas ainda – mas a Zoneraich diz que tem mais de 10.000 clientes gratuitos e pagos que passaram por seu site. (Parentlab e Speak apoiado pelo Openai são dois clientes pagantes que ele nomeia.)
A startup também viu o crescimento da receita 13X este ano-e afirma que esse rápido crescimento da receita é puramente através do boca a boca “, à medida que as equipes descobrem que precisam de especialistas em domínio, não apenas engenheiros, para construir a IA”.
“Tudo o que é necessário para corrigir esses problemas de impulsionamento é que você vai, você altera o prompt e vê como são os resultados – e temos muitas ferramentas para ajudá -lo a fazer isso em escala. Mas essa é a coisa central: apenas o método científico ”, acrescenta Zoneraich.
.
