Antecedentes y financiamiento

El proyecto de código abierto vLLM, conocido por acelerar la inferencia de inteligencia artificial, se ha transformado en una startup respaldada por capital de riesgo llamada Inferact. La empresa anunció una ronda de financiamiento en etapa de semilla que recaudó $150 millones, valorando el negocio en $800 millones. La ronda fue copresidida por dos prominentes firmas de capital de riesgo, Andreessen Horowitz y Lightspeed Venture Partners.

Fundadores y origen

Inferact está liderada por el CEO Simon Mo, uno de los creadores originales de vLLM. La tecnología fue incubada en 2023 en el laboratorio de la Universidad de California, Berkeley, fundado por el cofundador de Databricks Ion Stoica. El movimiento de un proyecto de código abierto a una entidad comercial refleja un cambio más amplio en la industria hacia la monetización de las capacidades de inferencia de inteligencia artificial.

Posición en el mercado y clientes tempranos

Los usuarios existentes de vLLM incluyen la plataforma de servicios en la nube de Amazon y una aplicación de compras ampliamente utilizada. Estos adoptadores tempranos subrayan la demanda de soluciones de inferencia de inteligencia artificial más rápidas y rentables a medida que las empresas buscan implementar modelos de lenguaje grande a escala.

Contexto de la industria

La recaudación de fondos sigue esfuerzos de comercialización similares, como la transición del proyecto SGLang a una startup llamada RadixArk, que también obtuvo capital a una valoración alta. Tanto vLLM como SGLang nacieron del mismo laboratorio de la Universidad de California, Berkeley, destacando el papel del laboratorio como catalizador de la innovación en la infraestructura de inteligencia artificial.

Perspectiva futura

Con un capital de semilla sustancial y el respaldo de firmas de capital de riesgo de primer nivel, Inferact está posicionada para acelerar el desarrollo y la adopción de la tecnología vLLM. El enfoque de la empresa en la inferencia - ejecutar modelos de inteligencia artificial en aplicaciones del mundo real - se alinea con el giro de la industria desde la capacitación de modelos hasta la implementación práctica, prometiendo servicios de inteligencia artificial más rápidos y económicos para las empresas.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas