Ronda de financiamiento y liderazgo

Gimlet Labs, una startup enfocada en la optimización de la inferencia de IA, cerró una ronda de financiamiento de Serie A de $80 millones. La ronda fue liderada por Menlo Ventures, con la participación de un grupo de ángeles y otras firmas de capital de riesgo. El fundador y profesor adjunto de Stanford Zain Asgar, junto con los cofundadores Michelle Nguyen, Omid Azizi y Natalie Serrino, utilizarán el capital para expandir la plataforma de inferencia multi-silicio de la empresa.

Visión general de la tecnología

El núcleo de la oferta de Gimlet Labs es una capa de software que llama "nube de inferencia multi-silicio". Esta capa orquesta las cargas de trabajo de IA en diferentes tipos de hardware - CPUs tradicionales, GPUs ajustadas para IA y sistemas de alta memoria - permitiendo que una sola tarea de IA se divida en pasos que se ejecutan en el hardware más adecuado para cada paso. Según Tim Tully de Menlo Ventures, la inferencia es limitada por la computación, la decodificación es limitada por la memoria y las llamadas a herramientas son limitadas por la red, y la plataforma asigna dinámicamente cada requisito al silicio adecuado.

Reclamos de rendimiento

Gimlet Labs afirma que su solución puede acelerar la inferencia de IA de 3 a 10 veces sin aumentar el costo o el consumo de energía. La plataforma también puede dividir el modelo subyacente para que diferentes porciones se ejecuten en diferentes arquitecturas, seleccionando el chip óptimo para cada segmento. La empresa informa que el hardware de los centros de datos existentes actualmente se utiliza solo entre el 15 % y el 30 % del tiempo, lo que lleva a un desperdicio de recursos valorado en "cientos de miles de millones de dólares". Al aprovechar mejor la capacidad ociosa, la startup busca hacer que las cargas de trabajo de IA sean hasta 10 veces más eficientes.

Posición en el mercado y asociaciones

El producto se entrega como software o a través de una API al servicio de nube de Gimlet, dirigido a laboratorios de modelos de IA grandes y operadores de centros de datos importantes, en lugar de desarrolladores de IA cotidianos. Gimlet Labs ya ha formado asociaciones con fabricantes de chips líderes como NVIDIA, AMD, Intel, ARM, Cerebras y d-Matrix, lo que refuerza su enfoque multi-hardware.

Antecedentes y crecimiento de la empresa

Antes de Gimlet Labs, el equipo fundador trabajó juntos en Pixie, una herramienta de observabilidad de código abierto para Kubernetes que fue adquirida por New Relic en 2020. Gimlet Labs se lanzó públicamente en octubre, informando ingresos de ocho cifras desde el principio y una base de clientes que ha más que duplicado en cuatro meses, incluyendo a un importante fabricante de modelos y una gran empresa de computación en la nube (nombres no divulgados). La empresa ahora emplea a 30 personas.

Paisaje de inversores

Además de Menlo Ventures, la ronda atrajo a inversores como Bill Coughran de Sequoia, el profesor de Stanford Nick McKeown, el ex CEO de VMware Raghu Raghuram, el CEO de Intel Lip-Bu Tan, Factory (líder de la ronda de semillas), Eclipse Ventures, Prosperity7 y Triatomic. El capital total recaudado por Gimlet Labs hasta la fecha es de $92 millones.

Usado: News Factory APP - descubrimiento de noticias y automatización - ChatGPT para Empresas