速递｜Microsoft收紧GPU供应，小型AI客户等待期或延续至2026年底

图片来源：Mike Sullivan

由于 Microsoft 和其他云服务提供商将 GPU 库存调配给其内部团队或更大的云客户，AI 初创公司正面临获取 Nvidia 图形处理器的困境，这迫使小型公司不得不以更高的价格争夺剩余的服务器资源。

据一些公司的创始人及投资者透露，供应紧缩正在影响那些从红杉资本（Sequoia Capital）、Founders 基金、General Catalyst、Andreessen Horowitz 以及其他主要投资机构筹集资金且资金充足的 AI 初创公司。据一位知情人士透露，这种短缺促使 General Catalyst 的 Hemant Taneja 向创始人们发送了一份调查问卷，询问他们获取算力的能力。

“我们从你们许多人那里听说，算力——尤其是 GPU 的获取——是你们今年面临的最大瓶颈之一，”Taneja 写道。

这种动态让人联想到 2023 年初 ，当时云服务提供商从其云服务中收回容量，以支持其内部团队和少数关键客户（如 OpenAI）。包括 Andreessen 和 Index Ventures 在内的风险投资公司最终确保了各自的 GPU 池，以缓解其投资组合公司的压力。

但与 AI 应用尚处于萌芽阶段的那个时期不同，对 AI 编程工具的异常需求加剧了当前的短缺。据云服务公司高管和初创公司创始人透露，随着来自 Anthropic 等大型 AI 开发商以及编程和其他自动化工具的需求激增，云服务商正在收紧针对小型客户的 GPU 供应。

这一次，General Catalyst 正在研究一种方法来帮助其投资组合中的公司获取 GPU，可能通过促成共享算力池或直接代表初创公司进行谈判。

芯片短缺使得云服务商能够提高租用 NVIDIA 驱动服务器的费用。在一些服务商近期难以通过芯片盈利后，这为云服务商的利润率提供了急需的提振。

但价格上涨的影响已波及到像 Krea 这样的初创公司，该公司致力于开发图像生成 AI 模型。这家成立四年的初创公司已从 Andreessen 和 Bain Capital Ventures 等投资者手中筹集了 8300 万美元的资金。

六个月前，在几家云服务提供商为争取这家初创公司的业务而展开激烈竞争后，Krea 签署了一份为期六个月的合同，以每芯片每小时 2.80 美元的价格租用了数百颗 NVIDIA Blackwell 芯片。但联合创始人兼首席执行官 Victor Perez 表示，上个月当这家初创公司开始寻找更多 AI 服务器来从头开始训练模型时，一些云服务提供商的销售代表甚至不接电话了。

图片来源：The Information

当销售代表最终回电时，他们告诉他价格已经大幅上涨，除非他签署一份为期三年的承诺协议，否则他们不会与他洽谈。

“有些公司杳无音信，有些告诉我们没有可用资源，还有些则试图让我们接受条件极差的优惠，”Perez 说道。

他表示，虽然Krea 正在评估一些集群的报价，但这些集群在几天内就被其他客户抢购一空。

最终，创始人们达成了一项协议，以每小时3.70 美元的价格续签了为期一年的数百颗 Blackwell 芯片使用合同——这比他们上一次的优惠价格高出了 32%。即便如此，考虑到他从其他供应商那里看到的芯片价格，这个价格似乎仍然很便宜。

“我们最大的恐惧是无法获得计算资源来运行我们的平台，以及在我们需要训练的地方运行模型，”Perez 说道。“如果价格稍微高一点，并不会让我们陷入绝境。”

在另一个例子中，一位寻求租用由近 1,000 个 GPU 组成的紧密连接集群的初创公司创始人表示，NVIDIA 的销售人员上周告诉他们，鉴于寻求更多芯片数量的客户众多，很难在最大的云提供商那里找到这样的集群。该创始人表示，他们仍在寻找集群，其租用成本每天将超过 70,000 美元。

合同续约

让初创公司处境雪上加霜的是，Microsoft、Amazon、CoreWeave 以及其他云服务提供商正做出规模空前的数十亿美元承诺，向 Anthropic 和 OpenAI 提供大量的 GPU。（这些承诺仍不足以缓解 Anthropic 在经历前所未有的增长爆发期时所面临的算力短缺问题 。）

造成短缺的另一个原因是：许多 AI 初创公司此前签署了两到三年的云服务协议，这些协议现在即将到期，这让云服务提供商有机会向他们推销价格更高的交易，或将这些算力重新分配给其他方。

该人士称，Azure 销售主管近期告知员工，客户应做好等待期至少持续到 2026 年底的心理准备。

例如，一家 AI 云服务提供商的 CEO 表示，他们最近计划将一个顾客的 GPU 集群转移给另一位愿意多支付约 30% 费用的顾客，因为原顾客的合同即将到期。但在原顾客恳求保留芯片后，该云服务提供商最终允许他们以更高的价格继续使用这些 GPU。

与此同时，GPU 云服务商 Lightning AI 的首席执行官 Will Falcon 表示，该公司目前上线了约 40,000 块 GPU，但仍有约 40 家客户积压了约 400,000 块 GPU 的潜在租赁订单。Falcon 指出，这导致价格在过去六个月内上涨了 25% 以上，从每片芯片每小时约 1.60 美元上涨到现在的 2 美元以上，某些情况下甚至更高。（Lightning 的大部分芯片是 Hopper，即 NVIDIA 的上一代芯片。）

Microsoft 的“不使用即收回”政策

据一位知情的Microsoft 员工透露，由于大客户和 Microsoft 内部团队的需求激增，公司的 Azure 云计算部门开始限制向小型客户出租服务器的数量。该人士表示，部分小型客户在租用额外 GPU 时，已经面临长达数月的等待。

Microsoft 长期以来一直将其规模最大的尖端芯片集群预留给 OpenAI 及其内部使用，并且还在为 Anthropic 构建新的集群。对于其他 Azure 客户而言，能否获得 GPU 取决于他们已经在 Azure 云服务上投入了多少资金，以及他们愿意为 AI 服务器投入多少额外现金。

据知情Microsoft 员工透露，例如，Microsoft 近几个月开始要求希望获取 NVIDIA Blackwell 芯片的顾客承诺租用至少 1,000 颗芯片且租期至少一年，这类合同的费用起步就在数千万美元。

据该 Microsoft 员工和一位曾尝试预留芯片的顾客透露，顾客在 Azure 上租用哪怕是少量的旧代 NVIDIA 芯片，也必须等待数周或数月。

该 Microsoft 员工表示，等待时间的长短取决于顾客与 Azure 的现有关系，Azure 根据分层系统对顾客进行优先级排序。获得优先访问权的第 1 梯队顾客包括约 1,000 家云服务支出最大的客户；第 2 梯队顾客支出较少，但规模仍足以让 Microsoft 指派专门的销售代表来管理其账户。第 3 梯队顾客则是规模较小的企业，其关系由 CDW 等 Microsoft 转售合作伙伴管理。

如果不承诺预留大量GPU，顾客在按需付费模式下租用芯片将面临漫长的等待。据 Microsoft 员工透露，在 Microsoft 以该模式提供 GPU 容量后，会追踪其使用情况，如果顾客让服务器闲置仅几个小时，Microsoft 就可能取消其访问权限。

同样，Microsoft 一直在取消部分通过 Microsoft for Startups 计划获得芯片访问权限的公司的 GPU 使用权，该计划为初创公司提供免费额度以租赁服务器。据该 Microsoft 员工透露，Microsoft 已告知这些初创公司，如果他们未能充分利用这些芯片，将失去对 GPU 的访问权限。

直接交易？

一些初创公司创始人可能会完全绕过云服务提供商。初创公司Collide 的创始人 Collin McLelland 表示，他的公司正考虑花费约 50 万美元购买 NVIDIA GPU 自行运行，因为他已经受够了从大型云服务提供商那里租赁 GPU 所面临的漫长等待时间和种种限制。Collide 去年完成了 1400 万美元的种子轮融资，目前正在为石油和天然气公司开发 AI Agent。他表示，Collide 正在考虑在收到 GPU 后，直接从数据中心公司或云服务提供商处租赁空间来托管这些硬件。

McLelland 表示，虽然短期内购买和安装 GPU 的成本明显高于从云服务商处租赁，但他认为为了避免租赁带来的延迟和不确定性，这样做是值得的，并预计与数年的租赁费用相比，购买 GPU 的支出会更少。

“当我们需要计算资源却无法获得时，这对我们来说是一个巨大的风险，”他说。“大多数人只是对硬件感到恐惧。我曾拥有过油井，所以对此已经麻木了。”

参考资料：

https://www.theinformation.com/articles/microsoft-cloud-providers-tighten-grip-gpus-pressuring-ai-customers?rc=jn0pp4