Pythonで学ぶ木ベースのMachine Learning

バイアス–バリアンストレードオフは、教師ありMachine Learningにおける基本概念の一つです。この章では、過学習と未学習（アンダーフィッティング）をどのように診断するかを学びます。さらに、複数モデルの予測を集約してより堅牢な予測を得るアンサンブルという考え方も紹介します。

バギングは、訓練データからサンプリングした異なるサブセットで同じアルゴリズムを何度も学習させるアンサンブル手法です。この章では、バギングを使って木のアンサンブルを構築する方法を理解します。さらに、各分割でのランダム化によりアンサンブルの多様性を高めるランダムフォレストアルゴリズムについても学びます。

ブースティングは、複数のモデルを逐次的に学習させ、各モデルが直前のモデルの誤りから学ぶアンサンブル手法を指します。この章では、AdaBoostとGradient Boostingという2つのブースティング手法を紹介します。

Machine Learningモデルのハイパーパラメータは、データからは学習されないパラメータで、訓練前に設定する必要があります。この章では、グリッドサーチと交差検証を用いて、木ベースのモデルのハイパーパラメータをチューニングする方法を学びます。