Los creadores del proyecto de código abierto vLLM han anunciado que han convertido la popular herramienta en una startup respaldada por VC, Inferact, recaudando 150 millones de dólares en capital inicial con una valoración de 800 millones de dólares.
La ronda fue codirigida por Andreessen Horowitz y Lightspeed Venture Partners, lo que confirma el informe anterior de TechCrunch de que vLLM había recaudado capital de a16z.
El debut de Inferact refleja la reciente comercialización del proyecto SGLang como RadixArk, que ha asegurado un capital por una valoración de 400 millones de dólares, según fuentes lideradas por Accel, como informamos el miércoles.
A medida que el enfoque de la IA pasa de los modelos de entrenamiento a su implementación en aplicaciones (un proceso llamado inferencia), tecnologías como vLLM y SGLang que hacen que estas herramientas de IA funcionen más rápido y de manera más rentable están atrayendo la atención de los inversores.
Tanto vLLM como SGLang fueron desarrollados en 2023 en el laboratorio de UC Berkeley por el cofundador de Databricks, Ion Stoica.
El director ejecutivo de Inferact, Simon Mo, uno de los creadores originales del proyecto, dijo a Bloomberg que los usuarios existentes de vLLM incluyen el servicio en la nube y la aplicación de compras de Amazon.
About The Author
