智算基石全栈加速，百度百舸 4.0 的技术探索和创新

百

WYP2024年10月09日约 11 分钟

。

点击蓝字，关注我们

GEEK TALK

百度百舸 4.0 核心架构

过去一年大模型的浪潮，让我们深切感受到当前基础设施建设赶不上模型发展的需求。那 AI 基础设施要如何变革，如何提供更优质的算力，支持模型的探索和创新呢？今天我来分享一下百度智能云的技术探索和创新。

对比 CPU，以 GPU 代表的 AI 芯片最大的难题是充分发挥芯片性能。如果 CPU 是聪明的大脑，AI 芯片就是强壮的手和腿，需要一个很复杂的软件栈和配套设施，才能充分发挥出性能。我们常说，不经意间 50% 的 AI 算力就被浪费掉了。

百度百舸是专为 AI 计算设计的高性能算力平台，为用户解决掉软件栈的复杂度，充分把 AI 算力发挥出来。百度百舸 4.0 的技术架构可以分成 4 层：

硬件资源层，以高性能网络架构为核心，包括高密 AI 服务器，以及全液冷的数据中心；
集群组件层，包括百度集合通信库 BCCL，除了基础的通信能力，更重要的能支持集群的性能调优以及故障定位；以及 AI 编排和调度的组件，能实现任务混布，资源的充分利用，以及多维度的可观测能力；
训推加速层，针对大模型提供的算子库、并行策略、推理架构等，对长文本、MoE、多模态等实现全面加速；
最上面是平台工具层，实现训练任务的管理、自动容错；推理任务的不同 SLA、不同芯片的部署；以及各类应用的快速部署；为用户提供易用的使用界面。

接下来，我为大家逐一分享相关的技术。

GEEK TALK

HAI 基础设施

我们说 AI 计算需要极致规模、极致高密和极致互联，这是指的硬件设计层面的要求。

XMAN 5.0 是我们最新推出的新一代 AI 计算机，通过异构多芯、兼容液冷、高可用性设计，应对当前 AI 计算中的多重技术挑战。

首先，是算力多元化，AI 芯片的选择必然更加多样。XMAN 5.0 通过模块化设计，支持多种芯片组合，既兼容 NVLink，也支持 OAM 模组，兼容 Intel、AMD 及国产芯片。

第二个挑战是芯片功耗的持续攀升。随着 AI 算力密度增加，AI 芯片的功耗也从几年前的 400W，迅速上升到 700W，下一代要到 1200W。XMAN 5.0 实现了液冷，相较于风冷方案，单机功耗下降 800W，同时运行温度降低 5-10℃，故障率降低 20%~30%。

此外，密度高，带来了故障域高，硬件故障对集群可用性的影响变大；XMAN 5.0通过模块化设计，实现灵活的组件替换，提升系统高可用性，降低了故障风险。

只有经过优秀设计的 AI 计算机还不够，XMAN 5.0 还配备了百度自研的「灵溪」液冷 IDC，专为高密度计算集群打造，使单机柜功率密度从传统的 30kW 提升到 100kW 以上，PUE 值从 1.3 降至 1.15，系统能效提升超过 10%。

HPN 网络是 AI 集群的核心，他既不同于为 HPC 设计的 IB 网络，他是以延迟为核心；也不同于传统 IaaS 的 RDMA 需求，他是以多租户共享为核心。

我们在 RDMA 的基础上，设计吞吐优先的 AI 网络。针对 AI 典型的场景，通信流少、通信路径可预期的情况下，最大化系统吞吐。

我们新一代的 HPN 网络，具有以下几个特性：

规模上支持到了 10 万卡。基于 51.2T 交换芯片，采用多平面架构，单集群最大可支持 10 万卡。同时，这一代 HPN 对物理空间也实现大幅拓展，可支持 30km 内的跨地域组网；
通信上实现了完全无阻塞。网络拥塞和多路径负载不均是 RDMA 的痛点问题，通过自适应路由技术，实现了通信带宽有效率超过 95%，通信性能提升 20%；
运维上实现了毫秒级的监控。通过 10ms 级别的高精度监控，以及主动 pingmesh 探测能力，对各类网络问题，实现了秒级定位和分钟级止损的能力。

GEEK TALK

高性能集群

第二层是管理集群需要的集群组件，包括 AI 资源和作业的调度编排组件，以及集合通信库组件。

AI 负载对资源的要求有以下几个特点：

能把异地、异网、异构的算力聚合起来，有算力就能用；
推理的波峰波谷明显，要提升利用率，需要多种负载的混部；
推理任务和训练任务的特点，推理需要单机多模型，训练需要任务弹性。

百度百舸 4.0 实现了一套以弹性队列为核心的资源池产品，帮助客户提升资源利用率：

对于异地、异网、异构的算力形态。百度百舸能构建统一的资源池，根据任务的需求和集群中的剩余资源，自动选择最具性价比的算力；
针对训推一体化的多种负载。提供了弹性队列机制，支持队列间实时的超发、抢占、隔离保障，没有任何负担的实现复杂混部策略；
面向训推任务的特点。推理引擎支持单机冷热模型部署，训练任务支持资源量伸缩；

最终，体现在业务效果上，百舸多芯集群已支持 18 种以上的芯片类型，包括英伟达、昆仑芯和昇腾；资源分配率达 96%，集群利用率 95%。

另一方面，集群之所以难管理，在于有各种同步、异步的通信逻辑，同时性能还要求特别高。然而性能和可观测定位是有矛盾的，但是性能和故障定位又是同等重要。

百度百舸 4.0 基于专门针对大模型集群的容错能力和性能优化开发了百度集合通信库 BCCL：

在性能优化方面，提升高性能计算效率的方式就是通信与计算 overlap。然而，通信和计算同时进行会有资源争抢，各自的性能都有大幅下降，BCCL 通过支持多优先级队列和 channel tuning，提高了 overlap 的有效性。在 400G 大带宽网络下，进一步通过 chunk tuning 技术优化性能。最终整体实现了 5% 的性能提升。此外，对于 MoE 模型中的 alltoall 通信场景，BCCL 采用自定义的 alltoall 算子，实现了约 10% 的通信性能提升。
在稳定性和容错性方面，面对最难的 hang 以及慢节点发现，BCCL 实现了秒级的异常状态感知和故障节点锁定。这意味着在训练过程中，如果出现异常，BCCL 能够快速检测并定位问题节点。此外，网络的抖动也是不可避免的问题。BCCL 提供了秒级网络容错机制，确保在网络出现短暂故障时，训练任务能够保持持续稳定的运行，避免频繁中断。

GEEK TALK

大模型训练

基于集群的管理能力，我们进一步来看大模型训练。

大模型训练是一个庞大的单一任务，训练任务稳定性至关重要：

无效训练时间 = 故障次数* （定位恢复时长 + 重算时长）+ 写 checkpoint 总时长。

从这个公式可以看到大模型训练的技术挑战：

首先是，一个卡出错，整个集群就得停下；
然后出错了不怕，怕的是找不到故障卡。GPU 经常会出现 hang、精度异常等静默故障频发；
完成定位后，万卡任务恢复过程中也会因为启动耗时、 checkpoint 重算带来小时级别的损失。

针对这些挑战，百度百舸 4.0 真正做到了万卡任务秒级的故障感知、分钟级的故障定位和恢复：

首先在故障感知层面，我们通过硬件全链路监控，硬件故障召回率达 95% 以上。除了硬件故障，对软件类的进程状态异常、I/O 异常、速度异常、流量异常都有全面监控，实现了任务异常秒级感知；
其次在故障定位阶段，面对最难的 hang 场景，通过 BCCL 实现了精准定位；面对最复杂的精度异常问题，通过精度异常检测定位故障卡；
最后在故障恢复阶段，有一个问题大家提到比较少，就是任务的重启时间，通过任务镜像加速分发和数据缓存加速，实现任务的快速启动恢复；还有 checkpoint 时间，通过触发式 checkpoint 技术，将故障重算损失几乎降低到 0。

整体来看，我们实现了万卡有效训练时长在 99.5%。

再来看 AIAK 对模型的加速能力，大模型算法在过去一段时间发生了较多的变化，包括：

万亿级模型转向 MoE 架构（mixtral、deepseek）
训练上下文窗口也从过去常见的 4K 开始增大到 128K、1M 长度等；
多模态模型也在成为主流。

为了更好的支持长序列、多模态、以及各类 MoE 架构，百度百舸 4.0 进行了如下升级：

首先是分布式并行策略，除了常规 3D 并行，我们还引入专家并行来支持 MoE 训练，混合序列并行来支持超长上下文。但是，他们带来的问题，都是通信量会显著提升，尤其是 MoE 的 alltoall 通信。在这些策略的实现中，我们做了极致的计算与通信并行优化，减少通信的影响；
然后是显存优化策略，长上下文带来了更多的显存开销；为了节省显存，就需要有更多的重计算或 offload ，但是他们又会带来很大的开销。为此，百度百舸针对流水线显存不均衡、重计算冗余开销、offload 卸载效率等问题分别进行了策略优化，大幅降低了显存的需求；

当各种并行策略越来越复杂，不同的芯片的算力、显存指标差异也大，模型结构也更多。那针对不同的模型，在不同的芯片上，不同的网络拓扑上，百度百舸可以分钟级产出搜出最优的的并行策略，准确率超过 95%，全面优于专家手动调出来的并行策略。

能不能实现多芯混合训练，也是大家关注的热点。

从需求来看，多芯混训可以解决两个方面的问题，一个是利旧，比如已经建设了 1 万卡的 A 集群，现在需要完成 2 万卡的任务，只需要再新采购 1 万卡新一代的 AI 芯片即可；一个是算力供给瓶颈，通过国产的这些算力芯片组合起来，提供一个整体的聚合算力。

从技术实现的角度，多芯混训主要有三大核心要素：

打通集群内的网络墙，实现异构芯片互联互通。百度百舸的 BCCL 可以实现不同芯片间零开销的数据收发；通过 CPU 转发的情况下，性能损失也在 5% 以内；
使能异构芯片充分发挥性能。通过 accelerator 抽象层，把各芯算子统一接入 AIAK 加速框架，充分发挥算力；
解决异构混训引入的负载不均问题。由于不同芯片的算力、显存和通信能力各异，我们支持 PP 异构和 DP 异构两种模式，并采用自适应并行工具，10 分钟内即可找到最优的切分策略，确保多芯混合训练的效率最大化。

目前我们已经实现了几乎无损的混合训练能力，能充分利用好各种 AI 芯片。