Перейти к основному контенту

Главная Google Cloud

Курс

Build Batch Data Pipelines on Google Cloud

Средний уровеньУровень навыков

Обновлено 06.2026

Explore streaming data architectures on Google Cloud with Pub/Sub, Managed Kafka, Dataflow, and BigQuery for real-time data processing.

Начать курс бесплатно

Google CloudCloud

2 ч 6 мин

50 Упражнений

2,700 XP

Справка об успешном завершении

Создать бесплатный аккаунт

Продолжить через Google Показать больше вариантов

или

Продолжая, вы принимаете наши Условия использования, Политику конфиденциальности и соглашаетесь с хранением ваших данных в США.

Любимая обучающимися из тысяч компаний

Обучаете команду?

Попробуйте для бизнеса

Описание курса

This course teaches you to design, build, and operate batch data pipelines on Google Cloud. Topics include large-scale data transformations with Dataflow and Serverless Spark, batch data validation and cleansing, schema evolution, error handling, and pipeline orchestration with Cloud Composer.

Необходимые условия

Для этого курса нет предварительных требований

1

When to choose batch data pipelines

You will learn the critical role of a data engineer in developing and maintaining batch data pipelines, understand their core components and lifecycle, and analyze common challenges in batch data processing. You'll also identify key Google Cloud services that address these challenges.

Batch data pipelines and their use cases

Processing and common challenges

Module 1 Quiz: When to choose batch data pipelines — Question 1

Module 1 Quiz: When to choose batch data pipelines — Question 2

Module 1 Quiz: When to choose batch data pipelines — Question 3

Module 1 Quiz: When to choose batch data pipelines — Question 4

Module 1 Quiz: When to choose batch data pipelines — Question 5

Module 1 Quiz: When to choose batch data pipelines — Question 6

Module 1 Quiz: When to choose batch data pipelines — Question 7

Module 1 Quiz: When to choose batch data pipelines — Question 8

Module 1 Quiz: When to choose batch data pipelines — Question 9

Module 1 Quiz: When to choose batch data pipelines — Question 10

Начать главу

2

Design and build batch data pipelines

You will design scalable batch data pipelines for high-volume data ingestion and transformation. You'll also optimize batch jobs for high throughput and cost-efficiency using various resource management and performance tuning techniques.

Design batch pipelines

Large scale data transformations

Dataflow and Serverless for Apache Spark

Module 2 Quiz: Design and transformations — Question 1

Module 2 Quiz: Design and transformations — Question 2

Module 2 Quiz: Design and transformations — Question 3

Module 2 Quiz: Design and transformations — Question 4

Data connections and orchestration

Execute an Apache Spark pipeline

Optimize batch pipeline performance

Use Serverless for Apache Spark to Load BigQuery

Build a Simple Batch Pipeline with Dataflow Job Builder UI

Начать главу

3

Control data quality in batch data pipelines

You will develop data validation rules and cleansing logic to ensure data quality within batch pipelines. You'll also implement strategies for managing schema evolution and performing data deduplication in large datasets.

Batch data validation and cleansing

Log and analyze errors

Schema evolution for batch pipelines

Module 3 Quiz: Data validation and schema evolution — Question 1

Module 3 Quiz: Data validation and schema evolution — Question 2

Module 3 Quiz: Data validation and schema evolution — Question 3

Module 3 Quiz: Data validation and schema evolution — Question 4

Data integrity and duplication

Deduplication with Serverless for Apache Spark

Deduplication with Dataflow

Validate Data Quality for a Batch Data Pipeline using Serverless for Apache Spark

Начать главу

4

Orchestrate and monitor batch data pipelines

You will orchestrate complex batch data pipeline workflows for efficient scheduling and lineage tracking. You'll also implement robust error handling, monitoring, and observability for batch data pipelines.

Orchestration for batch processing

Cloud Composer

Module 4 Quiz: Orchestrations and DAGs — Question 1

Module 4 Quiz: Orchestrations and DAGs — Question 2

Module 4 Quiz: Orchestrations and DAGs — Question 3

Module 4 Quiz: Orchestrations and DAGs — Question 4

Unified observability

Alerts and troubleshooting

Module 4 Quiz: Observability — Question 1

Module 4 Quiz: Observability — Question 2

Module 4 Quiz: Observability — Question 3

Module 4 Quiz: Observability — Question 4

Visual pipeline management

Building Batch Pipelines in Cloud Data Fusion

Congratulations: Course summary

Начать главу

Build Batch Data Pipelines on Google Cloud

Курс
завершён

Получить сертификат об окончании

Добавьте эту квалификацию в профиль LinkedIn, резюме или CV
Поделитесь в социальных сетях и в обзоре эффективностиЗаписаться сейчас

Присоединяйтесь к более чем 19 миллионам обучающихся и начните Build Batch Data Pipelines on Google Cloud уже сегодня!

Создать бесплатный аккаунт

Продолжить через Google Показать больше вариантов

или

Продолжая, вы принимаете наши Условия использования, Политику конфиденциальности и соглашаетесь с хранением ваших данных в США.

Развивайте свои навыки работы с данными с помощью DataCamp для мобильных устройств.

Успевайте в обучении на ходу с помощью наших мобильных курсов и ежедневных 5-минутных заданий по программированию.