データ分析やレポート作成の場面で、決定係数という言葉を目にしたことはないでしょうか。
回帰分析の結果を説明する際に必ずといっていいほど登場する指標です。
しかし、決定係数とは何かと聞かれると、はっきり答えられない方も多いはず。
さらに、決定係数の目安がどのくらいなら良いモデルといえるのか、迷ってしまう方も少なくありません。
加えて、決定係数がマイナスになるという現象に驚いた経験がある方もいらっしゃるでしょう。
決定係数とは?目安とマイナスの意味も!(R²・回帰分析・相関係数・適合度など)という今回のテーマでは、これらの疑問をひとつずつ丁寧に解消していきます。
決定係数の基本的な定義から、計算方法、目安となる数値、そしてマイナスになる理由まで幅広く解説します。
あわせて、相関係数との違いや、回帰分析における適合度の考え方についても触れていきます。
専門的な内容ですが、できるだけ平易な言葉でまとめましたので、統計初心者の方にも読みやすい内容となっています。
それではまず、決定係数とは何かという結論部分について解説していきます。
決定係数とは何か(結論)
それではまず、決定係数とは何かについて解説していきます。
結論からお伝えすると、決定係数とは回帰モデルがデータのばらつきをどれだけ説明できているかを示す指標です。
英語ではCoefficient of Determinationと呼ばれ、記号としてはR²(アール・スクエア)が使われます。
0から1の範囲で表され、1に近いほどモデルの当てはまりが良いと判断されます。
決定係数(R²)の基本的な定義
決定係数は、実際のデータの値と回帰モデルによる予測値のずれの小ささを数値化したものです。
言い換えると、目的変数の変動のうち、説明変数によって説明できる割合を表す数値といえます。
例えば決定係数が0.8であれば、目的変数の変動の80パーセントが説明変数によって説明されていることを意味します。
残りの20パーセントは、モデルに含まれていない要因や誤差によるものと考えられるでしょう。
決定係数は「モデルがどれだけデータを説明できているか」を表す割合であり、1に近いほど当てはまりが良いモデルであると判断されます。
ただし、値が高いからといって、そのモデルが常に正しいとは限りません。
後述するように、過剰適合(オーバーフィッティング)によって数値が高く出てしまうケースもあるためです。
決定係数でわかること
決定係数を確認することで、作成した回帰モデルの説明力を客観的に把握できます。
マーケティング分析であれば、広告費と売上の関係をモデル化した際に、そのモデルがどの程度信頼できるかの目安になるでしょう。
品質管理の現場でも、温度と不良率の関係性を数値で評価する際に活用されています。
このように、決定係数はビジネスから研究まで、幅広い分野で利用される汎用的な指標なのです。
結論としての目安ライン
結論として、決定係数は0.5を超えていればある程度の説明力があるとされることが多いです。
0.7以上であれば良好、0.9以上であれば非常に高い当てはまりと評価されるケースが一般的でしょう。
ただし、この目安は分野によって大きく異なります。
詳しい目安の考え方については、後の見出しで詳しく解説していきます。
決定係数の計算方法と求め方
続いては、決定係数の計算方法と求め方を確認していきます。
決定係数は難しい概念に思えるかもしれませんが、計算式自体はシンプルです。
基本的な仕組みを理解すれば、Excelや統計ソフトの数値もすんなり読み解けるようになります。
決定係数を求める計算式
決定係数は、回帰変動(説明できた変動)を全変動(データ全体のばらつき)で割ることで求められます。
決定係数(R²)= 回帰変動 ÷ 全変動
= 1 - (残差変動 ÷ 全変動)
ここでいう全変動とは、実際のデータの値と平均値との差の二乗を合計したものです。
残差変動とは、実際のデータの値と回帰モデルによる予測値との差の二乗を合計したものを指します。
つまり、モデルの予測誤差が小さいほど、残差変動は小さくなり、決定係数は1に近づく計算です。
逆に、予測誤差が大きいほど決定係数は小さくなり、モデルの説明力が低いことを示すことになります。
回帰分析における残差平方和との関係
決定係数を理解するうえで欠かせないのが、残差平方和という概念です。
残差平方和とは、実測値と予測値の差を二乗して合計した値のことを指します。
| 用語 | 意味 | 決定係数との関係 |
|---|---|---|
| 全変動(SST) | 実測値と平均値の差の二乗和 | 分母として使用 |
| 回帰変動(SSR) | 予測値と平均値の差の二乗和 | 分子として使用 |
| 残差変動(SSE) | 実測値と予測値の差の二乗和 | 誤差の大きさを示す |
この表からもわかるように、決定係数は全変動のうち、どれだけ回帰変動でカバーできているかを表す割合です。
残差変動が小さいモデルほど、実測値に近い予測ができているといえるでしょう。
統計学の基礎として、この関係性はぜひ押さえておきたいポイントです。
エクセルやPythonでの算出方法
実務では、決定係数を手計算することはほとんどありません。
エクセルであれば、RSQ関数やCORREL関数、あるいは近似曲線のオプションから決定係数を自動で表示できます。
散布図に近似曲線を追加し、数式とR²値を表示するオプションを選ぶだけで簡単に確認可能です。
Pythonの場合は、scikit-learnライブラリのr2_score関数を使うのが一般的でしょう。
statsmodelsライブラリを使った重回帰分析でも、サマリー出力の中に決定係数が自動的に表示されます。
いずれのツールも、数式の中身を意識しなくても数値を得られる点が便利です。
決定係数の目安と分野ごとの基準
続いては、決定係数の目安と分野ごとの基準について確認していきます。
決定係数は0から1の間の値を取りますが、どのくらいの数値であれば良いモデルといえるのでしょうか。
実はこの基準、分野によってかなり幅があります。
決定係数0.5以上は良好といえるか
一般的な目安として、決定係数が0.5を超えていればモデルとして一定の意味があるとされます。
ビジネスの現場、特にマーケティングや売上予測の分野では、0.5から0.7程度でも実用に耐えるモデルと判断されることが多いです。
人間の行動や市場の動きには不確実な要素が多く、完璧な予測は難しいためでしょう。
一方で、物理実験や工学分野のように再現性の高いデータを扱う場合は、0.9以上を求められるケースも珍しくありません。
分野によって異なる目安の考え方
決定係数の基準は、扱うデータの性質によって大きく変わります。
| 分野 | 目安となる決定係数 | 特徴 |
|---|---|---|
| 物理・工学実験 | 0.9以上 | 誤差要因が少なく再現性が高い |
| 経済・マーケティング | 0.3~0.6程度 | 人の行動要因が多く不確実性が高い |
| 社会科学・アンケート調査 | 0.2~0.4程度 | 個人差や心理要因の影響が大きい |
このように、同じ0.5という数値でも、分野によって評価は真逆になることがあります。
経済データで0.5の決定係数が出れば高評価となる一方、精密機械の実験データで0.5であれば不十分と判断されることもあるでしょう。
数値だけを鵜呑みにせず、その分野の慣習や過去の研究と比較することが大切です。
自由度調整済み決定係数という指標
説明変数を増やすほど、決定係数は見かけ上高くなる性質があります。
これは、説明力のない変数を追加しても、偶然の当てはまりによって数値が上昇してしまうためです。
この問題を補正するために使われるのが、自由度調整済み決定係数(Adjusted R²)です。
自由度調整済み決定係数は、説明変数の数に応じてペナルティを加えることで、不要な変数の追加による数値の水増しを防ぐ指標です。
重回帰分析でモデルを比較する際は、通常の決定係数ではなく、こちらの指標を確認することが推奨されます。
複数のモデルを比較検討する際には、この調整済み決定係数を基準にすると、より公平な評価ができるでしょう。
決定係数がマイナスになる意味と原因
続いては、決定係数がマイナスになる意味と原因について確認していきます。
決定係数は0から1の範囲と説明しましたが、実はマイナスの値になることもあります。
初めてこの現象に出会うと、計算ミスではないかと戸惑う方も多いでしょう。
決定係数はマイナスになり得るのか
結論からいえば、決定係数はマイナスになり得ます。
特に、テストデータに対して決定係数を計算する場合や、切片なしのモデルを使う場合に起こりやすい現象です。
決定係数がマイナスになるということは、そのモデルの予測が、単純に平均値を当てはめるよりも悪いことを意味します。
決定係数(R²)= 1 - (残差変動 ÷ 全変動)
残差変動が全変動よりも大きくなると、計算結果はマイナスになります。
つまり、モデルがまったく機能していない、あるいは逆効果になっているという厳しい状態を示しているのです。
マイナスになる主な原因
決定係数がマイナスになる原因はいくつか考えられます。
第一に、訓練データに過剰適合したモデルを、未知のテストデータに適用した場合です。
訓練データでは高い決定係数を示していても、新しいデータでは全く当てはまらないということが起こり得ます。
第二に、切片(定数項)を含まない回帰モデルを使用した場合も要注意です。
切片なしのモデルは、原点を通ることを前提とするため、実際のデータの分布と合わないと極端に悪い数値が出ることがあります。
第三に、選んだモデルの形(線形・非線形など)が、そもそもデータの構造に合っていないケースも考えられるでしょう。
マイナス値が出た場合の対処法
決定係数がマイナスになった場合、まず疑うべきはモデルの妥当性です。
使用している説明変数が本当に目的変数と関係があるのか、改めて確認してみましょう。
次に、外れ値の存在も見逃せないポイントです。
極端な値が一つ含まれているだけで、決定係数が大きく歪むことがあります。
また、線形モデルではなく非線形の関係が適切な場合もあるため、モデルの種類自体を見直すことも有効な手段です。
訓練データとテストデータを分けて評価している場合は、データの分割方法に偏りがないかも確認しておきたいところです。
決定係数と相関係数の違い
続いては、決定係数と相関係数の違いについて確認していきます。
決定係数と相関係数は、名前も記号も似ているため混同されがちな指標です。
しかし、両者が示す意味には明確な違いがあります。
相関係数とは何か
相関係数とは、二つの変数の間にどれだけ直線的な関係があるかを示す指標です。
記号はr(アール)で表され、マイナス1からプラス1の範囲を取ります。
1に近いほど強い正の相関、マイナス1に近いほど強い負の相関があることを意味するでしょう。
0に近い場合は、二つの変数にほとんど直線的な関係がないと判断されます。
決定係数と相関係数の数式上の関係
単回帰分析においては、決定係数は相関係数の二乗に一致するという性質があります。
単回帰分析の場合 決定係数(R²)= 相関係数(r)の2乗
例えば相関係数が0.8であれば、決定係数は0.64(0.8の2乗)となります。
この関係が成り立つのは、あくまで単回帰分析、つまり説明変数が一つの場合に限られる点に注意が必要です。
重回帰分析のように説明変数が複数になると、単純な二乗の関係は成立しなくなります。
| 指標 | 記号 | 取りうる範囲 | 示す内容 |
|---|---|---|---|
| 相関係数 | r | マイナス1~プラス1 | 関係の強さと方向 |
| 決定係数 | R² | 基本的に0~1(マイナスもあり得る) | モデルの説明力・適合度 |
使い分けるべき場面の違い
相関係数は、二つの変数の関係の強さと方向を知りたいときに使う指標です。
一方の決定係数は、作成した回帰モデルがどれだけデータを説明できているかを評価したいときに使う指標といえます。
例えば、身長と体重の関係の強さを知りたいだけなら相関係数で十分でしょう。
しかし、身長から体重を予測するモデルを作り、その精度を評価したい場合には決定係数を確認する必要があります。
目的に応じてこの二つを使い分けることが、正確なデータ分析の第一歩です。
回帰分析における決定係数の活用と適合度の考え方
続いては、回帰分析における決定係数の活用と適合度の考え方について確認していきます。
決定係数は便利な指標ですが、これだけに頼った分析には落とし穴もあります。
モデルの適合度を評価する意味
回帰分析における適合度とは、作成したモデルが実際のデータにどれだけフィットしているかを表す概念です。
決定係数はこの適合度を測るための、もっとも代表的な指標のひとつといえるでしょう。
売上予測モデルであれば、決定係数が高いほど、過去のデータをうまく再現できていることになります。
ただし、過去の再現性が高いからといって、未来の予測精度も高いとは限らない点には注意が必要です。
決定係数だけで判断する危険性
決定係数が高いことだけを理由に、良いモデルだと結論づけるのは危険です。
決定係数はあくまでモデルの当てはまりを示す指標であり、因果関係の証明や将来予測の正確性を保証するものではありません。
説明変数を増やせば決定係数は見かけ上高くなりますが、それが必ずしも良いモデルを意味するわけではないのです。
また、外れ値の影響を強く受けやすいという弱点も持っています。
データの中に極端な値が一つあるだけで、決定係数が大きく変動することもあるでしょう。
そのため、決定係数の数値だけでなく、散布図や残差プロットを目視で確認する作業も欠かせません。
他の指標と組み合わせた総合評価
より信頼性の高いモデル評価を行うためには、決定係数以外の指標も併用することが望ましいです。
例えば、平均二乗誤差(MSE)や平均絶対誤差(MAE)は、予測値と実測値のずれを直接的な数値で示してくれます。
自由度調整済み決定係数は、変数の数に応じた公平な比較を可能にしてくれるでしょう。
さらに、訓練データとテストデータの両方で決定係数を確認することで、過剰適合の有無もチェックできます。
これらの指標を組み合わせることで、決定係数だけでは見えなかったモデルの弱点が浮き彫りになることも多いです。
複数の視点からモデルを検証する姿勢こそが、精度の高いデータ分析につながっていくでしょう。
まとめ
今回は、決定係数とは何か、目安やマイナスになる意味も含めて解説してきました。
決定係数は、回帰モデルがデータのばらつきをどれだけ説明できているかを示す、0から1の範囲を基本とする指標です。
計算式は残差変動と全変動の比率から求められ、エクセルやPythonを使えば簡単に算出できます。
目安となる数値は分野によって異なり、ビジネス系のデータでは0.5前後でも十分実用的な場合が多いです。
一方、物理や工学のような精密なデータでは、0.9以上が求められることもあるでしょう。
決定係数がマイナスになるのは、モデルの予測が平均値を使うよりも劣っている状態であり、過剰適合や切片の有無、モデル選択の誤りなどが原因として考えられます。
単回帰分析においては、決定係数は相関係数の二乗に一致するという関係性も押さえておきたいポイントです。
最後に、決定係数はあくまで数ある評価指標のひとつにすぎません。
調整済み決定係数や誤差指標、視覚的なグラフ確認などを組み合わせることで、より信頼できるデータ分析が可能になります。
今回の内容を参考に、決定係数を正しく理解したうえで、日々の分析業務に役立てていただければ幸いです。