“学びたい”を刺激するメディア。

それでは線形回帰分析について学んでいきましょう。

回帰分析とは「ある変数xが与えられるとき、それと相関関係があり連続値であるyの値を予測すること」と定義されています。

回帰分析を用いることで、例えば不動産価格の予測において「部屋面積が1㎡広くなったとき不動産価格が変化する割合」や「ある部屋面積の時の不動産価格」を推定できるようになります。

そして、「線形」回帰分析は、回帰分析のうち“線を引いてさまざまな値のうち「最も当てはまりのよい」線をひくこと”を目的とするものを指します。

例えば以下の図のように部屋面積を横軸xに、不動産価格を縦軸yにあてはめた場合、どのように直線をひくと最も当てはまりがよいといえるでしょうか。

なお、xを説明変数、yを目的変数といい、今回のように説明変数xがひとつだけの回帰分析は「単回帰分析」と名付けられています。ちなみに説明変数が2つ以上の回帰分析も存在し、その場合は「重回帰分析」と呼ばれることになります。

さて、「当てはまりの良い線」について先生は、以下のように3つの直線を引いた場合、最も右のグラフが最も当てはまりが良いはずだといいます。

一番右の直線が最も各点に対して“より近いところを通っている”と感じられませんか？

要するに当てはまりの良い線とは、各点と直線との誤差（残差）が最も小さい線のことなのです。

さて、実践的な手法に進みましょう。

もっとも各点との誤差が小さい直線を求めるためのアイディアとしてまず挙げられるのが「残差を合計してそれが最も小さくなるパラメータ」を導き出すこと」です。

しかし、これでは残差がマイナスの値を取った場合、距離と残差の和の関係に齟齬が生じます。例えば2点に対する残差が[-4]と[6]の直線と、[0（点と直線が重なる）]と[4]の直線の残差を合計した場合、前者の合計は[2]なのに対し、後者は[4]。

すなわち、各点からの距離がより遠い直線の方が、合計の値が小さくなってしまうのです。

そこで、改良されたアイディアが「残差の2乗を合計して、それが最も小さくなるパラメータ」を求めるというもの。

この方法を取れば、先に挙げた例の場合、前者は「16 + 36 = 52」、後者は「0 + 16 = 16」となり、正しくより当てはまりの良い線を引くためのパラメータを導き出すことができます。

「このように、与えられたデータから最適なパラメータを求めることを、機械学習の分野では“学習”と表現する」ということです。