量子位

黄仁勋14天交付算力集群!配合DeepSeek开源引擎,单卡每小时38美金立刻开赚

梦晨 衡宇 发自 凹非寺
量子位 | 公众号 QbitAI
好了好了这下坏了,黄仁勋接住梁文锋的招了。 昨天,DeepSeek开源推理框架,教你如何用算力集群做到单卡每小时收入38美金。 今天,英伟达直接把算力集群搞成了预制菜, 从0到开始平地起数据中心到开始产token只需14天。 按这个账算,如果是万卡集群, 14天上线后,满负荷、客户全满的理想状态下,每小时收入可以到38万美金 (当然,前提是能拿到这么多稳定订单) 。
这一次,英伟达不满足于只卖芯片和机柜,而是直接把整座“Vera Rubin AI工厂”塞进了模块化的集装箱里。 过去,建一座超算中心需要漫长的土木施工、现场布线和调试。 老黄在现场直接甩出一句狠话,彻底改写了数据中心的经济学:
一座AI工厂只有在开始产出Token时才创造价值,而不是在建筑施工完成时。
一个不经意,老黄带领大家跳过“买的越多省的越多”,直接快进到“买的越多赚的越多”。 有种AI Infra黄金时代的错觉

把AI工厂塞进集装箱,14天交付满血算力

怎么让客户最快赚到AI的钱?答案是缩短“首Token产出时间” (Time to First Token) 。
全新发布的 DSX POD硬件产品线 ,完全围绕这一核心逻辑展开。 传统的AI数据中心建设,需要在现场进行极其繁琐的计算节点安装、网络布线、机架级供电和液冷管道铺设。一旦遇到零件延误或现场施工失误,动辄就要耗费半年以上。 现在,英伟达直接把包含最新 Vera Rubin系统 在内的全套基础设施,做成了可重复量产的“集装箱”设计。 计算、网络、布线、供电以及液冷系统,全部在合作伙伴的制造工厂里就完成了集成、跨机架走线、管道连接和功能验证。
第一步, 将最新的NVIDIA Vera Rubin计算系统,与高速网络、机架级供电和液冷散热系统打包。 原先的Grace Blackwell方案组装一个节点就要2小时,布线繁杂,而且液冷覆盖率仅80%。 换成Vera Rubin之后,采用无线缆架构、100%全液冷,单个节点组装缩短到仅需5分钟,同时可靠性和性能都得到提升。
第二步, 在出厂前,把它们完整集成进专门定制的模块化集装箱 (Modular Containers) 里。 连机架与机架之间的跨柜布线、电力接线、液冷管道铺设,甚至全套系统的功能验证…… 统统在制造工厂里提!前!干!完!
与此同时,客户现场的场地准备工作可以完全并行推进,两边互不耽误。 集装箱装着一座验证完毕的“满血Vera Rubin算力工厂”抵达准备好的场地, 开箱接通现场预留的电力、冷却和网络基础设施,就能瞬间点亮。
最终提升效果堪称碾压级—— 现场部署周期从传统6个月,最短压缩至14天。 英伟达将Time to First Token (首Token产出时间) 作为这项交付效率的衡量标准。 早一天跑起大模型训练和生产级推理,运营商就能早一天向客户交付算力、早一天开始印Token变现。

压榨每一兆瓦电力,推理吞吐暴涨49%

不仅极限压缩到2周就能交付,老黄还贴心地 配套了方案来缓解缺水缺电的问题 。 上述DSX POD硬件产品线背后依托的,是英伟达全栈式AI工厂参考架构 NVIDIA DSX平台 。 它将计算、网络、存储、软件、供电和散热各作为“单一系统”进行协同设计。
首先是电力与算力的极限压榨。 要建数据中心,“有多少电”决定了“能上多少卡”。 为了打破电力瓶颈,英伟达甩出了两款软件大杀器: DSX MaxLPS 与 DSX Flex 。 先说前者。 DSX MaxLPS负责在AI工厂既定的电力预算内进行动态功率分配,产出完全相同数量的Token,最高可以直接 省电30% 。 反过来算,如果电力预算固定不变,省下来的电就能原地转化成多出来的算力。
实测数据直接拉满:
  • 在云厂商Lambda基于 NVIDIA HGX B200 系统的概念验证中,固定功率预算下,集群Token吞吐量直接提升 24% ,可容纳的GPU算力容量增加 19% 。
  • 在欧洲云厂商Nscale冰岛AI工厂的实测中,跨4个 NVIDIA GB300 NVL72 机柜、在相同的264千瓦供电预算下,推理吞吐量更是暴涨 49% ,受管GPU算力容量直接多出 37%。
花同样的电费,硬生生多跑出近一半的推理算力。 而软件两大杀器中的第二个—— DSX Flex—— 则更进一步,让原本是“电老虎”的AI工厂,摇身一变成了电网的“柔性调节器”。 它能根据电网负载、电价波动甚至现场光伏和储能情况,实时调整算力功耗,帮AI工厂更快拿到电网并网审批。 在英国国家电网、Nebius、Emerald AI与英伟达的联合测试中,面对模拟电网突发事件, Blackwell Ultra GPU集群在不中断关键业务的前提下,瞬间将集群功耗 狂降40% 。 其次是 散热革新。 传统数据中心靠冷却塔蒸发水来降温,耗水量惊人。 而Vera Rubin基础设施 支持高达45°C冷却液温度的100%全液冷。 DSX参考设计直接将闭环液冷与室外干冷器 (类似巨型汽车散热片) 结合,冷却液在封闭管路内循环吸热,再由干冷器将热量直接排入空气,全程不蒸发水,将设施冷却耗水降至 接近于零 (减幅达100%) 。 在一座2吉瓦 (2GW) 规模的AI工厂里,相比传统冷却塔, DSX 每天能省下5400万升水。 这相当于18万户家庭一整天的用水量。

上Hugging Face“云盖楼”,开源OS全自动托管

为了把建厂效率推向极致,英伟达甚至把“基建模拟器”搬上了开源社区。 全新推出的物理设备数字模型库NVIDIA SimReady Central,今天正式登陆Hugging Face。 里面直接打包了维谛 (Vertiv) 等合作伙伴经过验证的供电与散热设备3D数字资产。 配合DSX Sim仿真工具,工程师无需在实体场地动手施工,便可搭建AI工厂的数字孪生。 从这也能看出来,为什么英伟达要收购Hugging Face了。 供电和散热情况,还有西门子正在测试的声学噪音等,全都可以提前模拟验证。 硬件落地后,软件无缝接管。 英伟达宣布扩展开源的DSX OS基础设施管理软件组合,一口气放出三大开发者预览版组件: - NVIDIA Config Manager 全自动搞定AI工厂复杂的网络配置 - NVIDIA Rack Management Service 提供机架级的电源、资产盘点、固件与交换机统一管理 - NVIDIA Cluster Readiness Engine 在正式生产任务到达前,自动运行分布式负载来验证GPU集群,提前揪出故障并精准隔离到具体节点 配合底层控制器与运行环境,从虚拟设计、集装箱出厂,到自动压测上线,英伟达彻底 把造超算变成了一条全自动流水线 。

晒出地表最强“基建朋友圈”

既然要批量制造“集装箱AI工厂”,自然少不了全球产业链的加持。 老黄现场再次晒出横跨计算、能源与工业软件的“最强基建朋友圈”。
负责把DSX POD集装箱造出来并推向全球的合作伙伴,阵容极其豪华: 戴尔 (Dell) 、HPE、联想、富士康 (鸿佰科技) 、技嘉、和硕、广达 (云达) 、纬创,以及Anduril、Armada、Bull、Crusoe、DayOne、台达、伊顿巨头悉数在列。 预计明年 (2027年) 初,这些预制好的模块化AI工厂就将在全球范围内正式交付。 在全球云生态中,CoreWeave、Google Cloud、Lambda、Nebius、Nscale、Crusoe、G42、IREN等AI云厂商已全面拥抱DSX软件栈。 更上游的工业与能源巨头也全部进场: 施耐德电气与AVEVA忙着做Vera Rubin的全生命周期数字孪生;达索系统与维谛联合仿真OneCore基础设施;ABB正基于DSX Sim开发SimReady数字资产,并通过新发布的Infinitus直流产品组合推进800V高压直流 (800 VDC) 架构研发;日立能源、西门子能源与GE Vernova则直接下场,帮英伟达搞定从电网规划到储能系统的深度协同。

One More Thing

把时间拨回2024年的GTC大会。 当时老黄站在台上指着全新的Blackwell机柜说:“英伟达的AI超级计算机,就是AI工业革命的工厂。” 那时候,很多人还以为“AI工厂”只是一个商业包装概念,把数据当原料,把Token当产成品。 仅仅两年半过去,老黄把这个比喻变成了字面意义上的物理现实。 他不仅定义了芯片 (Vera Rubin) 、定义了机柜 (NVL72) ,现在甚至连集装箱 (DSX POD) 、散热水管、电网调度、乃至西门子和施耐德的工业设计图,都一并纳入了“英伟达标准”之下。
当缺电、缺水、缺熟练工、建厂慢成为卡住AI扩张脖子的最大瓶颈时,老黄大手一挥,索性跨界当起了“全球总包工头”。 以前科技巨头买算力,是向英伟达买显卡,自己回去攒机;后来行业采购形式“进化”成买整机柜。 到今天,算力采购已经如同选购预制菜,客户可以批量采购封装在集装箱内的AI发电厂,对接配套设施之后仅需14天就能产出Token。 如你所见,英伟达的边界早已超越一块小小的的芯片和单台服务器。 老黄想做AI时代的整套物理基座的王。 至少在这一轮全球性的算力基建浪潮当中,黄仁勋就是那个掌握整套顶层方案,站在船头用望远镜眺望的人。 视频回放: https://www.youtube.com/watch?v=PvFjbPYEOZI 一键三连 「点赞」「转发」「小心心」 欢迎在评论区留下你的想法! — 完 — 🌟 点亮星标 🌟 科技前沿进展每日见