作者用平实的语言描述流水的编排难题:你需要三步处理数据——清洗、校验、汇总成报表。步骤本身不难,难的是第二步必须在第一步完成之后才能开始,第二步中途失败时你不想重做第一步的全部工作,而下个月还要加第四步。这种「保证顺序、处理重试、不重做已成功的部分」的协调工作就是编排,它从来不是数据工程里有趣的那一部分,但你必须把它做对。经典结构是 Medallion 架构:原始数据作为 bronze,清洗校验后成为 silver,聚合完成成为 gold,这个心智模型很好用;真正悄悄变贵的是它外围的东西——三个独立作业、一个编排器(比如 Step Functions 或 Airflow)把它们按顺序串起来、每一段的重试逻辑,以及让部分失败不至于逼你从头重跑的全部记账。这些都不是业务逻辑,纯粹是为了让第二步等第一步而存在的管道。作者的解法是 AWS Glue 6.0 的 Spark 声明式流水线,跟着官方博客的演示做了一遍,把每个术语在第一次出现时都解释清楚,不需要事先有 Glue 或 Spark 经验。