.
Grandes empresas de tecnologia como a Microsoft e o Google estão enfrentando o desafio de transformar produtos de IA como o ChatGPT em uma empresa lucrativa, relata o The Wall Street Journal. Embora as empresas estejam investindo pesadamente em tecnologia de IA que possa gerar memorandos de negócios ou códigos, o custo de execução de modelos avançados de IA está provando ser um obstáculo significativo. Alguns serviços, como o GitHub Copilot da Microsoft, geram perdas operacionais significativas.
Os modelos generativos de IA usados para criar texto não são baratos de operar. Modelos de linguagem grande (LLM), como os que alimentam o ChatGPT, exigem servidores poderosos com chips de última geração e que consomem energia. Por exemplo, citamos recentemente um relatório da Reuters com análise que afirmava que cada consulta ChatGPT pode custar 4 centavos para ser executada. Como resultado, Adam Selipsky, diretor executivo da Amazon Web Services, disse ao Journal que muitos clientes corporativos estão insatisfeitos com os elevados custos de funcionamento destes modelos de IA.
O atual desafio de custos está ligado à natureza dos cálculos de IA, que muitas vezes requerem novos cálculos para cada consulta, ao contrário do software padrão que beneficia de economias de escala. Isto torna arriscados os modelos de taxas fixas para serviços de IA, uma vez que o aumento da utilização dos clientes pode aumentar os custos operacionais e levar a potenciais perdas para a empresa.
Algumas empresas estão tentando reduzir custos, enquanto outras continuam a investir mais profundamente na tecnologia. A Microsoft e o Google introduziram atualizações mais caras apoiadas por IA em seus serviços de software existentes, enquanto a Zoom supostamente tentou reduzir custos usando às vezes um modelo interno de IA menos complexo para algumas tarefas. A Adobe está abordando o problema com limites de atividade e cobrança com base no uso, enquanto a Microsoft e o Google normalmente mantêm taxas fixas.
O chefe de estratégia corporativa da Microsoft, Chris Young, acredita que o retorno dos investimentos em IA levará mais tempo, à medida que as pessoas descobrirem as melhores maneiras de usá-la. “Estamos claramente em um ponto onde agora temos que traduzir o entusiasmo e o nível de interesse em uma verdadeira adoção”, disse ele ao canal.
Notavelmente, o relatório do WSJ afirma que o GitHub Copilot da Microsoft, que auxilia os desenvolvedores de aplicativos na geração de código, tem operado com prejuízo, apesar de atrair mais de 1,5 milhão de usuários e de se integrar em quase metade de seus projetos de codificação. Os usuários pagam uma taxa fixa de US$ 10 por mês pelo serviço, mas o custo para a Microsoft excede em média US$ 20 por mês por usuário, de acordo com uma pessoa familiarizada com o assunto. Em alguns casos, usuários avançados individuais custaram à empresa até US$ 80 por mês.
Uma das razões pelas quais os serviços de IA são tão caros é que algumas empresas têm procurado os modelos de IA mais poderosos disponíveis. Por exemplo, a Microsoft usa o LLM mais complexo da OpenAI, GPT-4, para muitos de seus recursos de IA. O GPT-4 está entre os maiores e mais caros modelos de IA para operar, exigindo um poder computacional significativo. O WSJ brincou que usar este modelo para tarefas básicas, como resumir um e-mail, é como “fazer com que um Lamborghini entregue uma pizza”, sugerindo que usar os modelos de IA mais capazes pode ser um exagero para tarefas simples.
Nesse sentido, a Microsoft tem explorado alternativas menos dispendiosas para seu assistente de mecanismo de busca Bing Chat, incluindo o modelo de linguagem Llama 2 da Meta. No entanto, com o tempo, devido aos avanços no hardware de aceleração de IA, os custos de operação destes modelos complexos provavelmente diminuirão. É incerto se esses avanços poderão ocorrer em breve para corresponder ao ciclo de entusiasmo deste ano em relação à IA.
Embora ainda haja entusiasmo no setor, o WSJ relata que podemos estar perto do pico antes que uma verificação da realidade se instale. Alguns especialistas antecipam uma abordagem financeira mais rigorosa no futuro próximo, destacada por May Habib, CEO da empresa de IA generativa Writer, que disse ao canal: “Acho que no próximo ano será o ano em que o fundo secreto para IA generativa acabará”. Isto sugere que poderemos ver em breve a transição da indústria do entusiasmo e dos orçamentos experimentais para uma fase em que o foco estará em saber se estes modelos de IA podem realmente contribuir para a rentabilidade da empresa.
.
