回帰分析とは? わかりやすく解説

Weblio 辞書 > 学問 > OR事典 > 回帰分析の意味・解説 

回帰分析

読み方かいきぶんせき
【英】:regression analysis

概要

目的変数といわれる1つ変数説明変数といわれる変数の間の関数関係を求め方法. 説明変数1つである場合単回帰分析, 複数である場合重回帰分析といい, 説明変数関数回帰式という. その評価としては, 目的変数の値と関数の値の差の二乗和を用いることが多いが, 差の絶対値用いることもある. 推測統計では, 回帰式求めることは, 目的変数期待値推定に当たる.

詳説

 分析対象に対して, 複数間隔尺度変数についての値(長さ, 時間などのいわゆる計量値)が得られているとする. 変数は, 一つ目的変数いくつかの説明変数分かれていて, 目的変数できるだけ近い値をとる説明変数関数求めるのを回帰分析という. 説明変数一つである場合単回帰分析, 二つ上である場合重回帰分析という.

[回帰式]

 説明変数関数回帰式という. 説明変数x_i(i=1, 2, \cdots, m)\, ,目的変数y\, とする. 回帰式には, 通常, 次のような線形式用いられる.



y = b_0 + b_1 x_1 + b_2 x_2 + \cdots + b_m x_m 
\,


b_i(i=0, 1, 2, \cdots, m)\, 回帰係数といい, これを求めるのが目的である. なお, ここでの線形式は, 値を求め係数b_i\, に関して線形であることを示している. したがって, 説明変数の間には, たとえば, x_2=x_1^2\, のように, 線形以外の関係があってもよい. 非線形回帰式 [4] が用いられることもあるが, ここでは, 線形回帰式に限ることにする.

[残差]

 分析対象の数をn\, とし, k\, 番目 (k=1, 2, \cdots, n\, ) の対象x_i\, , y\, の値, いわゆるデータx_{ik}\, , y_k\, とする. 変数x_i\, k\, 番目の対象の値x_{ik}\, 代入したときの回帰式の値を\eta_k\, , すなわち,



\eta_k=b_0+b_1x_{1k}+b_2x_{2k}+\cdots+b_mx_{mk}
\,


とすると,



e_k=y_k-\eta_k 
\,


残差または回帰からの偏差という.

[最適な回帰式]

 回帰式評価は, 残差関数用いて行われる. 代表的な評価関数を以下に挙げる.

(1) 残差平方和(偏差平方和)


\mbox{SSD} = \sum_{k=1}^{n}\eta_k^2
\,


(2) 絶対偏差の和


\mbox{SAD}=\sum_{k=1}^{n}|\eta_k|
\,


(3) 絶対偏差最大値


\mbox{MAD}=\max\{|\eta_1|, |\eta_2|, \cdots, |\eta_n|\}
\,


いずれの評価関数も, 小さい方がよいので, 最小にする回帰式最適とする.

[最適な回帰式求め方]

 SSD最小にする回帰式(回帰係数)を求めるのを最小二乗法という. SSDは, b_i(i=0, 1, 2, \cdots, m)\, に関する二次関数であるから, これらで偏微分した式を0とおいて得られる連立一次方程式解けばよい. この連立一次方程式正規方程式という.

 線形式絶対値の和を最小にすることも, 線形式絶対値最大値最小にする ことも, 線形計画問題変形できることにより, SAD最小にする回帰式も, MAD最小にする回帰式も, 線形計画問題を解くことによって得られる [2]. とくに, 一対比較結果によるデータである場合は, ネットワーク計画問題変形できる[3].

[推測統計における回帰分析]

 回帰分析は, 狭い意味では, 推測統計における解析法である. 説明変数y\, 確率変数Y\, 実現値であって, Y\, 期待値E[Y]\, 次のように説明変数関数表されるとする.



E[Y]=\beta_0+\beta_1 x_1+\beta_2 x_2+\cdots+\beta_m x_m
\,


このとき, 回帰係数求めることは, 未知定数\beta_i(i=0, 1, 2,\cdots, m)\, 推定することに当たる. y_k\, 対応する確率変数Y_k\, とする, すなわち, y_k\, 確率変数Y_k\, 実現値考えられるとき, Y_k\, 分布について, 分散一定などの前提条件をおくと, 最小二乗法は, 望ましい推定法であることが証明されている [1].



参考文献

[1] C. R. Rao, Linear Statistical Inference and Its Applications, John Wiley & Sons, 1973.

[2] T. S. Arthanari and Y. Dodge, Mathematical Programming in Statistics, John Wiley & Sons, 1981.

[3] 古林隆, 佐藤俊之, 鈴木政志, 「一対比較データネットワーク計画法的解析」, 『日本オペレーションズ・リサーチ学会1991年度春季研究発表会アブストラクト集』, 112-113, 1991.

[4] N. R. Draper and H. Smith, Applied Regression Analysis, John Wiley & Sons, 1966.  

「OR事典」の他の用語
統計:  クラスター分析  主成分分析  判別関数  回帰分析  因子分析  多変量解析  多次元尺度構成法


このページでは「OR事典」から回帰分析を検索した結果を表示しています。
Weblioに収録されているすべての辞書から回帰分析を検索する場合は、下記のリンクをクリックしてください。
 全ての辞書から回帰分析を検索

英和和英テキスト翻訳>> Weblio翻訳
英語⇒日本語日本語⇒英語
  

「回帰分析」に関係したコラム

  • FXやCFDの線形回帰チャネルとは

    線形回帰チャネルとは、線形回帰分析の1つで線形回帰線の上部と下部に線を引いたものです。一般的にFXやCFDなどで取引される銘柄の価格は、線形回帰チャネル内に収まりながら推移します。線形回帰チャネルは、...

辞書ショートカット

すべての辞書の索引

「回帰分析」の関連用語

回帰分析のお隣キーワード
検索ランキング

   

英語⇒日本語
日本語⇒英語
   



回帰分析のページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
日本オペレーションズ・リサーチ学会日本オペレーションズ・リサーチ学会
Copyright (C) 2024 (社)日本オペレーションズ・リサーチ学会 All rights reserved.

©2024 GRAS Group, Inc.RSS