速递｜a16z全程跟进：vLLM之父创AI推理Inferact，顶级投资阵容融资，估值达8亿美元

图片来源：Upscale AI 

由开源软件vLLM 创造者组建的 AI 初创企业 Inferact 已完成 1.5 亿美元种子轮融资，公司估值达 8 亿美元。

该公司周四宣布，此轮融资由安德森·霍洛维茨基金和光速创投领投，红杉资本、Altitude 资本、红点创投及真格基金参与投资。

像Inferact 这样的初创公司专注于人工智能推理阶段——即 AI 模型完成训练后能够开始回答问题、解决任务的环节。

该公司预判，未来AI 行业面临的最大挑战将不再是构建新模型，而是如何经济高效且稳定可靠地运行现有模型。

Inferact 公司的技术核心围绕 vLLM 构建，这是一款于 2023 年发布的开源项目，旨在帮助企业将人工智能模型高效部署在数据中心硬件上。据 Inferact 及其投资者透露，该软件最初由加州大学伯克利分校启动，现由 PyTorch 基金会监管，已吸引了来自人工智能产业数千名开发者的贡献。

Inferact 由首席执行官 Simon Mo 领导，他是 vLLM 项目的原始维护者之一。Mo 表示公司成立于 2025 年 11 月，并于本周正式对外公开。他将公司的创立渊源与伯克利分校早前孵化的软件项目相类比，这些项目后来都发展成了规模化企业，包括 Apache Spark 和 Ray。

安德森·霍洛维茨基金会的参与可追溯至 vLLM 项目的早期阶段。该机构普通合伙人 Matt Bornstein 指出，vLLM 在 2023 年成为其"AI 开源资助计划"的首个受助项目。该计划致力于支持从事开源软件开发的学生和开发者——这类软件可被自由查阅与修改。在 Inferact 成立之前，安德森·霍洛维茨基金会还主办了该项目的首场社区聚会，为与团队建立紧密联系奠定了早期基础。

投资者表示他们的兴趣反映了人工智能行业更广泛的转变。伯恩斯坦指出，过去企业往往需要等待数年才能迎来新模型发布，因为训练系统既缓慢又昂贵。随着现有模型已经足够强大，开发者在无需等待重大升级的情况下即可使用，这一情况已发生改变。

但开发者创建的AI 产品必须持续与模型进行通信，这推高了成本并给系统带来压力。"推理环节正成为瓶颈，"伯恩斯坦表示，并补充说这个问题在未来几年可能会愈发严峻。

Inferact 表示其首要任务是继续将 vLLM 作为独立的开源项目进行支持，所有改进都将回馈社区。第二个目标是开发独立的商业产品，帮助企业更高效地在各类硬件上运行 AI 模型。

莫博士指出，这次异常大规模的种子轮融资反映出市场机遇的规模，以及即使微小的效率提升也能对成本产生的显著影响。他表示Inferact 并非试图取代或限制开源项目，而是旨在建立一项能够支持并拓展该项目的业务。

作为vLLM 应用广泛程度的一个例证，莫指出亚马逊公司不仅其云业务，连购物应用程序也依赖该软件来运行内部人工智能系统。

参考资料：