Contexto e Financiamento

O projeto de código aberto vLLM, conhecido por acelerar a inferência de IA, foi transformado em uma startup apoiada por venture capital chamada Inferact. A empresa anunciou uma rodada de financiamento de semente que arrecadou US$ 150 milhões, valorizando o negócio em US$ 800 milhões. A rodada foi co-liderada por duas prominentes firmas de venture capital, Andreessen Horowitz e Lightspeed Venture Partners.

Fundadores e Origem

Inferact é liderada pelo CEO Simon Mo, um dos criadores originais do vLLM. A tecnologia foi incubada em 2023 no laboratório da Universidade da Califórnia, Berkeley, fundado pelo co-fundador da Databricks, Ion Stoica. A mudança de um projeto de código aberto para uma entidade comercial reflete uma mudança mais ampla na indústria em direção à monetização das capacidades de inferência de IA.

Posição no Mercado e Primeiros Clientes

Os usuários existentes do vLLM incluem a plataforma de serviços de nuvem da Amazon e um aplicativo de compras amplamente utilizado. Esses primeiros adotantes destacam a demanda por soluções de inferência de IA mais rápidas e mais rentáveis à medida que as empresas buscam implantar modelos de linguagem grande em escala.

Contexto da Indústria

A captação de recursos segue esforços semelhantes de comercialização, como a transição do projeto SGLang para uma startup chamada RadixArk, que também obteve capital a uma valorização alta. Tanto o vLLM quanto o SGLang nasceram do mesmo laboratório da UC Berkeley, destacando o papel do laboratório como catalisador da inovação na infraestrutura de IA.

Perspectiva Futura

Com capital de semente substancial e apoio de firmas de venture capital de ponta, Inferact está posicionada para acelerar o desenvolvimento e a adoção da tecnologia vLLM. O foco da empresa na inferência — executar modelos de IA em aplicações do mundo real — alinha-se com a mudança da indústria do treinamento de modelos para a implantação prática, prometendo serviços de IA mais rápidos e mais baratos para as empresas.

Usado: News Factory APP - descoberta e automação de notícias - ChatGPT para Empresas