alitrack

Prefect 收购 Dagster

7月13日,Prefect 宣布收购 Dagster Labs。

两家公司都成立于 2018 年,都是 Airflow 的挑战者,都在 Python 数据编排领域竞争了七年。现在,合并后的公司将统一使用 Prefect 品牌(8月起),Dagster 保留品牌名和开源许可证独立运营。

事情是今天发生的。但我刚好发了两篇文章——《翻了70个项目,2024年后的数据工程不用Spark了》和《Airflow不再是默认选择了》——这篇文章就当是系列的一个即时更新。


● ● ●

收购了什么

  • Prefect 收购 Dagster Labs,包括产品、代码库、客户关系
  • Dagster 创始人 Nick Schrock 离开,CEO Pete Hunt 转任战略顾问
  • 约 40 名 Dagster 员工并入 Prefect
  • 财务条款未披露

● ● ●

不变的东西

Dagster OSS 继续活跃开发(不是仅维护),Apache 2.0 许可证不变。Dagster+ 品牌、定价、合同不变。已有部署完全不受影响,无需任何迁移。

Prefect CEO Jeremiah Lowin 的原话:「Dagster 和 Dagster+ 会留下来。」

● ● ●

这两个产品到底谁是谁

前两篇文章里,我重点写了 Dagster 的软件定义资产(SDA)模型——声明「应该产出什么数据」,让系统自己推导执行顺序。Prefect 的路线完全不同:它强调的是「怎么让工作流跑得稳」,动态 DAG、容错、重试、跨环境持久化。

Lowin 的说法是,这两个产品现在看更像是互补:

  • Dagster 擅长「定义结果」——数据资产是什么,血缘怎么走,新鲜度怎么样
  • Prefect 擅长「执行过程」——工作流怎么跑,失败了怎么恢复,动态分支怎么处理

● ● ●

还有第三个角色:FastMCP

Prefect 手里还有一张牌——FastMCP。这是 MCP(Model Context Protocol)发布当月 Prefect 就推出的 Python 框架,后来被 Anthropic 收编为官方 MCP SDK,现在下载量超过 9200 万次。

Lowin 把合并后的产品矩阵描述为三层:

  1. 01Dagster = 产出层:定义 AI 工作流应该产出什么
  2. 02Prefect = 执行层:实际跑这些工作流
  3. 03FastMCP = 访问层:控制 Agent 能碰哪些工具和数据

这已经不是在跟 Airflow 竞争了。这是在赌 AI Agent 需要的编排基础设施——定义目标、执行任务、治理访问——需要一套完整的闭环。

● ● ●

Nick Schrock 的离开

公告里说 Schrock 和 Hunt 将留在 Prefect 担任战略顾问。但 Schrock 自己的博文不是这么写的:

「I want to share that I'll be moving on from the project and company.」

这是一封告别信。创始人离开,Dagster 的 DNA 能不能延续,是这笔交易最大的不确定因素。

● ● ●

一个句号

《Airflow不再是默认选择了》写的是 Dagster 和 Kestra 正在取代 Airflow 成为新项目的编排默认选型。《翻了70个项目,2024年后的数据工程不用Spark了》写的是 DuckDB 在取代 Spark 成为新项目的计算引擎。作为这个趋势的最新注脚——两个 Airflow 挑战者合体了,而且赌的已经不是数据管道市场。

The New Stack 的标题说得更直接:「Prefect just bought Dagster — and it's not a data pipeline story.」