プロフェッショナルデータエンジニア Pythonで

最新のデータアーキテクチャを体系的に学習。IngestionからServing、Governance、Orchestrationまで主要要素を網羅します。

Unixコマンドラインは、既存のプログラムを新しい方法で組み合わせ、反復作業を自動化し、クラスタやクラウド上でプログラムを実行するのに役立ちます。

仮想マシン（VM）、コンテナ、Docker、およびKubernetesの基礎を学びましょう。違いを理解して始めましょう！

本コースでは、データモデリング、変換、テスト、およびドキュメント作成のためのdbtについてご説明いたします。

オブジェクト指向プログラミング（OOP）の基礎を学び、独自のクラスとオブジェクトを作成しましょう。

NoSQLを習得しデータ基盤を強化。Snowflakeでビッグデータを扱い、PostgresのJSONでドキュメントを処理し、Redisでキー値データを管理。

DevOps入門で基礎を習得し、生産性を高める主要な概念・ツール・手法を学びます。

Pythonのテストを習得。手法を学び、チェックを作成し、pytestとunittestでエラーのないコードを保証します。

Sharpen your debugging skills to enhance sales data accuracy.

Docker の基礎を理解し、データプロフェッショナルにとって Docker が重要である理由を説明できる。 Dockerコンテナ、イメージなどについて学びましょう。

PySpark を習得してビッグデータを自在に扱い、膨大なデータセットの処理、クエリ実行、最適化を学んで、強力な分析を実現しましょう！

This chapter introduces the exciting world of Big Data, as well as the various concepts and different frameworks for processing Big Data. You will understand why Apache Spark is considered the best framework for BigData.

The main abstraction Spark provides is a resilient distributed dataset (RDD), which is the fundamental and backbone data type of this engine. This chapter introduces RDDs and shows how RDDs can be created and executed using RDD Transformations and Actions.

In this chapter, you'll learn about Spark SQL which is a Spark module for structured data processing. It provides a programming abstraction called DataFrames and can also act as a distributed SQL query engine. This chapter shows how Spark SQL allows you to use DataFrames in Python.

Step into a data engineer's shoes and master data cleaning with PySpark on an e-commerce orders dataset!

In this chapter, we learn how to download data files from web servers via the command line. In the process, we also learn about documentation manuals, option flags, and multi-file processing.

In the last chapter, we bridge the connection between command line and other data science languages and learn how they can work together. Using Python as a case study, we learn to execute Python on the command line, to install dependencies using the package manager pip, and to build an entire model pipeline using the command line.

バッチ処理とストリーミングの違い、ストリーミングのスケーリング方法、実運用での活用例を学びます。

Apache Kafkaを基礎からアーキテクチャまで習得。実運用のデータストリーミングに向けて、作成・管理・トラブル対応を学びます。

本コースでは、Kubernetesの基礎を学び、Manifestsとkubectlでコンテナをデプロイしオーケストレーションします。

Understand how data engineering can impact your business.