ข้ามไปยังเนื้อหาหลัก

หน้าหลัก Data Engineering

คอร์ส

Building Data Pipelines with Airflow

ขั้นสูงระดับทักษะ

อัปเดตแล้ว 06/2569

Author Dags with the TaskFlow API, asset-based scheduling, and deferrable sensors, and run an end-to-end SQL ETL pipeline with quality checks.

เริ่มคอร์สฟรี

AirflowData Engineering

4 ชม.

16 วิดีโอ

60 แบบฝึกหัด

4,500 XP

ใบรับรองความสำเร็จ

สร้างบัญชีฟรีของคุณ

ดำเนินการต่อด้วย Google แสดงตัวเลือกเพิ่มเติม

หรือ

เมื่อดำเนินการต่อ คุณยอมรับ ข้อกำหนดการใช้งาน ของเรา นโยบายความเป็นส่วนตัว ของเรา และยอมรับว่าข้อมูลของคุณจะถูกจัดเก็บในสหรัฐอเมริกา

เป็นที่รักของผู้เรียนในบริษัทหลายพันแห่ง

กำลังฝึกอบรมทีม?

ลองใช้สำหรับธุรกิจ

คำอธิบายคอร์ส

Want to take your Airflow skills further? This course uses Airflow 3.2, so you'll learn the latest way of doing things. You'll author Dags with the TaskFlow API, schedule them based on data using Assets and the new Asset Partitions, and make them reliable with retries, callbacks, and tests.In the final chapter, you'll build an end-to-end SQL ETL pipeline on DuckDB and add data quality checks directly in Airflow, without any third-party libraries, so the data your pipeline produces stays trustworthy. By the end, you'll know how to take a pipeline from a prototype to something you can actually run in production.

ข้อกำหนดเบื้องต้น

Introduction to Apache Airflow in Python

1

Authoring Dags with TaskFlow and XCom

You'll start by meeting the Airflow components, writing your first Dags with the TaskFlow API, and passing data between tasks with XCom.

Airflow core concepts

Writing a minimal TaskFlow Dag

Matching Airflow components to their roles

The TaskFlow API

Converting a classic Dag to TaskFlow

Adding a task and wiring dependencies

Exploring a pipeline in the Airflow UI

Sharing data between tasks

Returning data from a TaskFlow function

Connecting a classic operator to a TaskFlow task

Understanding XCom limitations

เริ่มบท

2

Dynamic and Data-Aware Pipelines

From there, you'll run tasks in parallel with dynamic task mapping, schedule Dags by data with Assets, and add human approval steps.

Dynamic Task Mapping

Processing multiple endpoints with expand

Fixing a shared parameter with partial

Pairing inputs with zip

Data-aware scheduling with Assets

Signaling data availability with an Asset outlet

Scheduling a consumer Dag on an Asset

Seeing asset-based scheduling in action

Templating, idempotency, and backfilling

Adding date-aware templating

Making a pipeline idempotent

Triggering a backfill

Human-in-the-loop workflows

Collecting form input with HITLEntryOperator

Responding to a Required Action in the UI

Branching with HITLBranchOperator

เริ่มบท

3

Preparing Dags for Production

In this chapter, you'll handle failures with retries and callbacks, save resources with deferrable sensors, and test your Dags at three levels.

Robust Dags with failure handling and retries

Configuring retries with exponential backoff

Auto-pausing a failing Dag

Choosing the right failure handling strategy

Deferrable operators

Configuring a sensor for production

Making a sensor deferrable

When to use poke, reschedule, or deferrable

Testing Airflow code

Writing a Dag integrity test

Unit testing a task function

Integration testing with dag.test()

Organizing complex Dags with Task Groups

Grouping related tasks

Nesting task groups with display names

Organizing tasks by domain

เริ่มบท

4

Building a Production SQL ETL Pipeline

In this final chapter, you'll build a SQL ETL pipeline on DuckDB, add partition-aware scheduling with Asset Partitions, and embed data quality checks.

Running SQL workloads

Aggregating sales data with SQL

Parameterizing SQL and extracting it into files

Choosing the safe approach for user input

Partition-aware scheduling with Asset Partitions

Creating a partitioned pipeline

Scheduling on partitioned assets

Watching partitioned assets trigger a downstream Dag

Data quality checks

Adding column-level quality checks

Adding table-level quality checks

Catching data issues with the right operator

From development to production

Triggering a pipeline from the CLI

Backfilling historical data

Production challenges with Airflow

Congratulations!

เริ่มบท

Building Data Pipelines with Airflow

คอร์สเสร็จสมบูรณ์

รับใบรับรองความสำเร็จ

เพิ่มใบรับรองนี้ไปยังโปรไฟล์ LinkedIn เรซูเม่ หรือ CV ของคุณ
แชร์บน social media และในการรีวิวผลการปฏิบัติงานของคุณลงทะเบียนทันที

ร่วมกับผู้เรียนกว่า 19 ล้านคนและเริ่มต้น Building Data Pipelines with Airflow วันนี้!

สร้างบัญชีฟรีของคุณ

ดำเนินการต่อด้วย Google แสดงตัวเลือกเพิ่มเติม

หรือ

เมื่อดำเนินการต่อ คุณยอมรับ ข้อกำหนดการใช้งาน ของเรา นโยบายความเป็นส่วนตัว ของเรา และยอมรับว่าข้อมูลของคุณจะถูกจัดเก็บในสหรัฐอเมริกา

พัฒนาทักษะด้านข้อมูลของคุณด้วย DataCamp for Mobile

พัฒนาทักษะได้ทุกที่ทุกเวลาด้วยคอร์สเรียนบนมือถือและแบบฝึกหัดเขียนโค้ดประจำวัน 5 นาทีของเรา