Os desenvolvedores de modelos de IA não têm pressa em repassar os custos para os usuários finais.

O boom da IA ​​começou a remodelar o mercado de maneiras imprevisíveis. Seguindo os passos de fabricantes de chips de IA como a Nvidia, fabricantes de memória como a Micron Technology começaram a demonstrar margens de lucro historicamente fenomenais. Enquanto isso, prevê-se uma escassez de memória para todo o próximo ano, os custos estão aumentando rapidamente e não está totalmente claro quem arcará com os custos.

Fonte da imagem: SK hynix

Uma reportagem do The Wall Street Journal publicada no fim de semana levantou a questão de como o mercado de IA está reagindo ao aumento dos custos de memória. O problema do setor é que os desenvolvedores de IA ainda estão receosos em repassar o custo do aumento de preços para os usuários finais, pois estão interessados ​​em expandir seu público. Tentativas tímidas de conter os custos estão sendo feitas atualmente no nível de otimização de custos: provedores de serviços de IA estão revisando os termos de acesso ao modelo baseado em assinatura, com pagamentos proporcionais ao número de tokens consumidos. Clientes corporativos com acesso a modelos de IA também estão seguindo essa direção, já que, em alguns casos, está se tornando significativamente mais caro para eles.

De modo geral, a expansão da infraestrutura de IA está se tornando cada vez mais cara, pois os chips continuam escassos, assim como os chips de memória. O ônus adicional recai principalmente sobre os construtores de data centers e os investidores que financiam sua construção. Até mesmo gigantes como a Nvidia estão começando a captar recursos por meio de títulos e empréstimos bancários, sem mencionar empresas como Oracle e SoftBank, cujas dívidas estão aumentando rapidamente.

Em outros setores, como a aviação civil, o aumento dos custos de combustível normalmente leva a preços de passagens mais altos, mas os participantes do mercado de IA não têm pressa em seguir os cenários clássicos. No curto prazo, os lucros podem ser sacrificados; no longo prazo, é necessário melhorar a eficiência dos recursos para que, em última análise, sejam necessários menos recursos, e depois há a espera.Melhoria na disponibilidade de chips. Embora os fabricantes de memória estejam tentando acompanhar a demanda, fazem isso com cautela, considerando as experiências negativas dos últimos anos. Contratos de longo prazo com preços fixos e grandes indenizações em caso de não compra do volume de memória acordado estão se tornando novas ferramentas para os fabricantes de memória que buscam equilibrar os interesses de seus clientes com os seus próprios.