CEO da SambaNova: Inferência é o maior custo em IA empresarial
O CEO da SambaNova, Rodrigo Liang, afirma que a inferência se tornou o maior desafio de custo em IA empresarial, enquanto a empresa revela uma nuvem de IA de US$ 3,5 bilhões com arquitetura desagregada para reduzir custos e acelerar a adoção de agentes de IA.
O CEO da SambaNova, Rodrigo Liang, afirmou que a inferência se tornou o maior desafio de custo em IA empresarial, enquanto a empresa anunciou uma nova nuvem de IA de US$ 3,5 bilhões apoiada pela Vista Equity Partners e Cambium Capital.
Falando no Bloomberg Open Interest, Liang explicou que a inferência—o processo de execução de modelos de IA treinados para gerar resultados—agora representa a maioria dos custos de computação de IA para as empresas. Ele observou que, à medida que os modelos de IA crescem e são implantados mais amplamente, os custos de inferência podem rapidamente superar os custos de treinamento. A nova oferta de nuvem da SambaNova usa uma arquitetura desagregada que combina GPUs, CPUs e processadores de IA especializados, que Liang diz poder reduzir drasticamente os custos e acelerar a adoção de agentes de IA. A arquitetura permite que cada componente seja escalado independentemente, otimizando para as demandas específicas das cargas de trabalho de inferência, em vez de forçar uma abordagem única. Para investidores em ações, esse desenvolvimento destaca a dinâmica de custos em mudança na cadeia de valor da IA. Empresas que conseguirem reduzir os custos de inferência podem capturar participação de mercado significativa à medida que as empresas buscam implantar IA em escala. Os preços das ações ao vivo e gráficos no NowPrice mostram como o mercado está reagindo a essas tendências, com ações relacionadas à IA experimentando maior volatilidade.
Olhando para o futuro, os investidores observarão as taxas de adoção da plataforma de nuvem da SambaNova e ofertas semelhantes de concorrentes. O sucesso de arquiteturas desagregadas pode remodelar o cenário competitivo de hardware e serviços de nuvem de IA, potencialmente beneficiando empresas especializadas em soluções de inferência eficientes. Os principais indicadores a serem monitorados incluem crescimento de clientes empresariais, benchmarks de custo por inferência e o ritmo de implantação de agentes de IA em todos os setores.