データエンジニアリング入門

データエンジニアとデータサイエンティストの主な違いが分かったところで、次はデータエンジニアのツールボックスを詳しく見ていきます。データエンジニアが使うさまざまな種類のデータベース、並列計算がツールキットの中核である理由、そしてスケジューリングフレームワークでデータ処理ジョブをどのように予約実行するかを学びます。

データエンジニアのツールボックスを学んだら、次はいよいよワークフローの中心であるETLに取り組みます。ETLでは、さまざまなソースから生データを抽出し、それを有用なインサイトへと変換し、活用可能な形で適切なデータベースにロードする方法を学びます。

前の3章で学んだ内容の総仕上げとして、DataCampの実データを用いたデータエンジニアリングのユースケースに取り組みます。コース評価の生データを変換し、DataCampの受講生に向けた実用的なコースレコメンデーションを生成するETLプロセスを実行し、スケジュール設定します。