R による Supervised Learning：回帰

基本的な線形回帰モデルの当てはめ方を学んだので、次はモデルの性能をどのように評価するかを学びます。グラフによる評価方法を確認し、回帰モデルでよく使われる基本的な2つの指標を見ていきます。また、学習データだけでなく実運用でも良い性能を発揮するモデルの学習方法も学びます。ここでは線形回帰を例に説明しますが、これらの考え方はあらゆる回帰アルゴリズムで当てはめたモデルに共通して適用できます。

より高度な回帰手法に進む前に、ほかのモデリング上の論点も見ておきます。具体的には、カテゴリカル入力でのモデリング、変数間の交互作用、そしてモデリングの前に入力や応答を変換すべき場面についてです。高度な回帰手法の中にはこれらの問題の一部を自動的に扱うものもありますが、どの手法がどの問題に強いのか、そしてどの問題は自分で対処する必要があるのかを理解するためにも、あらかじめ知っておくことが重要です。

線形モデルを身につけたところで、線形性の仮定が成り立たない状況を扱う手法を見ていきます。これには、確率や頻度（0 から 1 の範囲）を予測する場合、カウント（0 以上の整数値とそのレート）を予測する場合、そして入力に対して非線形だが加法的な関係をもつ応答を扱う場合が含まれます。これらのアルゴリズムは、標準的な線形モデルのバリエーションです。

この章では、線形性や加法性を仮定せず、入力変数間の限られた種類の相互作用を学習できるモデリング手法を扱います。これらは学習データから得られた複数の意思決定木をアンサンブルとして組み合わせる、木ベースの手法です。