CEO de SambaNova: La inferencia es el mayor costo en IA empresarial
El CEO de SambaNova, Rodrigo Liang, afirma que la inferencia se ha convertido en el mayor desafío de costos en la IA empresarial, mientras la empresa presenta una nube de IA de 3.500 millones de dólares con una arquitectura desagregada para reducir costos y acelerar la adopción d
El CEO de SambaNova, Rodrigo Liang, afirmó que la inferencia se ha convertido en el mayor desafío de costos en la IA empresarial, mientras la empresa anunció una nueva nube de IA de 3.500 millones de dólares respaldada por Vista Equity Partners y Cambium Capital.
Hablando en Bloomberg Open Interest, Liang explicó que la inferencia—el proceso de ejecutar modelos de IA entrenados para generar resultados—ahora representa la mayoría de los costos de computación de IA para las empresas. Señaló que a medida que los modelos de IA crecen y se implementan más ampliamente, los costos de inferencia pueden superar rápidamente los costos de entrenamiento. La nueva oferta en la nube de SambaNova utiliza una arquitectura desagregada que combina GPU, CPU y procesadores de IA especializados, que Liang dice que puede reducir drásticamente los costos y acelerar la adopción de agentes de IA. La arquitectura permite escalar cada componente de forma independiente, optimizando para las demandas específicas de las cargas de trabajo de inferencia en lugar de forzar un enfoque único. Para los inversores en bolsa, este desarrollo resalta la dinámica cambiante de costos en la cadena de valor de la IA. Las empresas que puedan reducir los costos de inferencia podrían capturar una participación de mercado significativa a medida que las empresas buscan implementar IA a escala. Los precios de las acciones en vivo y los gráficos en NowPrice muestran cómo el mercado está reaccionando a estas tendencias, con las acciones relacionadas con la IA experimentando una mayor volatilidad.
De cara al futuro, los inversores observarán las tasas de adopción de la plataforma en la nube de SambaNova y ofertas similares de la competencia. El éxito de las arquitecturas desagregadas podría remodelar el panorama competitivo del hardware y los servicios en la nube de IA, beneficiando potencialmente a las empresas que se especializan en soluciones de inferencia eficientes. Los indicadores clave a monitorear incluyen el crecimiento de clientes empresariales, los puntos de referencia de costo por inferencia y el ritmo de implementación de agentes de IA en todas las industrias.