字节跳动云原生

SoCC 2023 | Gödel:字节跳动在离线混部统一调度系统

作为字节跳动在离线混部场景中最核心的调度系统, Gödel 提供丰富的资源 QoS 管理能力,可以统一调度在线和离线应用,极大提升资源利用率;且 Gödel 经过内部复杂场景和大规模集群验证,对业界具有很强的借鉴意义。 来源 | 字节跳动基础架构团队 2023 年 10 月 30 日至 11 月 1 日, SoCC 2023 将在美国加州 Santa Cruz 举行。 字节跳动基础架构-编排调度团队的研究成果被 S o CC 2023 接收,并受邀进行现场报告。 SoCC 会议全称 Annual ACM Symposium on Cloud Computing,是云计算领域顶级会议之一,同时也是 ACM 所有会议当中唯一一个同时被 SIGMOD 和 SIGOPS 赞助的顶会,代表了当前云计算领域在学术界、工业界和开源社区的前沿水平。 SoCC 会议伴随着云计算的兴起而成立,至今已经举办到第 14 届。该会议每年吸引全球顶级研究机构和知名大公司投稿,对系统创新性、完整性、和有效性等方面都要求很高。今年,会议论文的接收率只有30%。 Gödel: Unified Large-Scale Resource Management and Scheduling at ByteDance Gödel 是字节跳动基础架构-编排调度团队自主研发、面向大规模云原生基础设施管理的在离线统一调度系统。 字节跳动旗下业务线在过去几年的飞速发展中对计算资源的需求与日俱增,在数据中心的不断膨胀和对计算资源的差异化需求中,原生的 Kubernetes 调度器对于各种在离线业务负载统一托管、资源统一运营都带来了一系列挑战。 在此背景下,Gödel 调度系统应运而生。和 Kubernetes 原生调度器相比, Gödel 能同时在一套集群环境支持各类在离线、机器学习负载混合调度,同时具有 高吞吐 (up to 10X)、 高弹性 (sub-minute 资源流转)、 高资源利用率 (up to 60%)等特点,更好地满足了字节各业务间混合部署、资源并池等部署要求。在满足各形态业务负载 SLA 要求的同时,为计算集群资源统一运营提供了通用平台,进而提高了字节数据中心的资源利用率和任务灵活性,达到降本增效的目的。
Gödel 论文与现场报告将于 10 月底正式亮相 SoCC 2023。届时,字节跳动基础架构团队也将发布该论文的对应解读文章,欢迎持续关注。 目前, 字节跳动在离线混部的另一核心组件—— 资源管控系统 Katalyst 已开源,点击下图了解社区【 编程挑战 】! - END - 编排调度团队往期文章 [1] 字节跳动的云原生技术历程演进 [2] 字节跳动基于大规模弹性伸缩实现拓扑感知的在离线并池 [3] 字节跳动开源 Katalyst:在离线混部调度,成本优化升级 [4] 字节跳动开源 KubeAdmiral:基于 Kubernetes 的新一代多集群编排调度引擎 近期活动 时间:9 月 27 日 -28 日 地点:上海跨国采购会展中心