700+ courses, half price
课程简介
想进一步提升您的 Airflow 技能吗?本课程基于 Airflow 3.2,带您掌握最新实践。您将使用 TaskFlow API 编写 Dags,借助 Assets 与全新的 Asset Partitions 基于数据进行调度,并通过重试、回调与测试提升稳定性。在最后一章,您将基于 DuckDB 构建端到端的 SQL ETL 流水线,并直接在 Airflow 中加入数据质量检查,无需任何第三方库,确保流水线产出的数据始终可靠。完成课程后,您将掌握如何把原型流水线打造成可在生产环境中实际运行的方案。
先修要求
课程体系
课程大纲
1
使用 TaskFlow 与 XCom 编写 Dags
首先,您将认识 Airflow 的各组成部分,使用 TaskFlow API 编写首个 Dags,并通过 XCom 在任务间传递数据。
2
动态且数据感知的流水线
接着,您将通过动态任务映射并行运行任务,使用 Assets 按数据调度 Dags,并加入人工审批步骤。
3
为生产环境准备 Dags
本章中,您将通过重试与回调处理失败,使用可延迟传感器节省资源,并在三个层级测试您的 Dags。
4
构建生产级 SQL ETL 流水线
在最后一章,您将基于 DuckDB 构建 SQL ETL 流水线,使用 Asset Partitions 实现分区感知调度,并内嵌数据质量检查。
使用 Airflow 构建数据流水线
课程已完成

