Os criadores do projeto de código aberto vLLM anunciado que eles fizeram a transição da ferramenta common para uma startup apoiada por VC, Inferact, levantando US$ 150 milhões em financiamento inicial com uma avaliação de US$ 800 milhões.
A rodada foi co-liderada por Andreessen Horowitz e Lightspeed Enterprise Companions, confirmando o relatório anterior do TechCrunch de que vLLM levantou capital da a16z.
A estreia do Inferact reflete a recente comercialização do projeto SGLang como RadixArk, que fontes nos disseram garantir capital em uma avaliação de US$ 400 milhões liderada pela Accel, conforme informamos na quarta-feira.
À medida que o foco na IA muda dos modelos de formação para a sua implantação em aplicações, um processo conhecido como inferência, tecnologias como vLLM e SGLang, que fazem com que estas ferramentas de IA funcionem de forma mais rápida e acessível, estão a atrair a atenção dos investidores.
Tanto o vLLM quanto o SGLang foram incubados em 2023 no laboratório da UC Berkeley do cofundador da Databricks, Ion Stoica.
O CEO da Inferact, Simon Mo, um dos criadores originais do projeto, disse à Bloomberg que os usuários existentes do vLLM incluem o serviço de nuvem da Amazon e o aplicativo de compras.
