ダミー変数を用いた重回帰分析による分析の例

統計学用語辞典

ダミー変数を用いた重回帰分析による分析の例

　まず最初に，分析に使用するデータを準備する。各アイテム変数を，「その変数が持つカテゴリー数 − １」個のダミー変数に変換する（表 2 参照）。
　例えば，あるアイテム変数が 3 個のカテゴリーを持つときは 2 個のダミー変数をあてる。アイテム変数の値が 1 のときは，2 個のダミー変数は 0, 0 とし，2 のときは 1, 0 とし，3 のときは 0, 1 とする。

表 1．数量化 I 類による分析に使うデータ例 ケース番号 x1 x2 y 1 1 1 9.3 2 1 2 7.6 3 1 2 11.9 4 1 2 12.4 5 1 3 14.7 6 2 1 17.7 7 2 1 10.4 8 2 1 19.8 9 2 2 21.1 10 2 3 15.0 11 2 3 20.5 12 3 1 23.6 13 3 2 27.4 14 3 3 31.2 15 3 3 33.4

表 2．カテゴリー変数をダミー変数に展開したデータ ケース番号 d11 d12 d21 d22 y 1 0 0 0 0 9.3 2 0 0 1 0 7.6 3 0 0 1 0 11.9 4 0 0 1 0 12.4 5 0 0 0 1 14.7 6 1 0 0 0 17.7 7 1 0 0 0 10.4 8 1 0 0 0 19.8 9 1 0 1 0 21.1 10 1 0 0 1 15.0 11 1 0 0 1 20.5 12 0 1 0 0 23.6 13 0 1 1 0 27.4 14 0 1 0 1 31.2 15 0 1 0 1 33.4

***** 分析に用いた変数の基礎統計量 *****

	平均値	不偏分散	標準偏差
y	18.400000000	62.712857143	7.9191449755
d11	0.400000000	0.257142857	0.5070925528
d12	0.266666667	0.209523810	0.4577377082
d21	0.333333333	0.238095238	0.4879500365
d22	0.333333333	0.238095238	0.4879500365

***** 相関係数行列 *****

y	1.00000
d11	-0.10494	1.00000
d12	0.82761	-0.49237	1.00000
d21	-0.21443	-0.28868	-0.10660	1.00000
d22	0.42146	0.00000	0.21320	-0.50000	1.00000
	y	d11	d12	d21	d22

***** 重回帰式 *****

	偏回帰係数	標準誤差	ｔ値	Ｐ値	標準化偏回帰係数
d11	6.743750	2.266673	2.9751749	0.01392	0.4318276
d12	17.22500	2.423176	7.1084399	0.00003	0.9956292
d21	2.617500	2.349356	1.1141350	0.29128	0.1612812
d22	4.703750	2.214258	2.1243010	0.05959	0.2898286
定数項	8.668750	2.266673	3.8244371	0.00335
ｔ値の自由度は 10

偏回帰係数の解釈は以下のようになる。
元のアイテム変数 xi は，2 個のダミー変数 di1 と di2 を使って表現されている（i = 1, 2）。それぞれのダミー変数に対する偏回帰係数を bi1 ，bi2 とすると，予測値は
= d11・b11 + d12・b12 + d21・b21 + d22・b22 + 定数項 であらわされる。
x1 が 1 という値を取るときは，d11 = 0，d12 = 0 であるから，予測値に寄与する値は 0・6.74375 + 0・17.225 = 0 である。
x1 が 2 という値を取るときは，d11 = 1，d12 = 0 であるから，予測値に寄与する値は 1・6.74375 + 0・17.225 = 6.74375 である。すなわち，この場合は x1 = 1 の場合に比べて予測値は 6.74375 大きくなる。
x1 が 3 という値を取るときは，d11 = 0，d12 = 1 であるから，予測値に寄与する値は 0・6.74375 + 1・17.225 = 17.225 である。すなわち，この場合は x1 = 1 の場合に比べて予測値は 17.225 大きくなる。
標準化偏回帰係数の大きさからいうと，予測をするために最も重要なのは d12 であり，次いで d11 である（これらに対する P 値が小さいので，これらの係数が 0 でないといってよいことがわかる）。d22 ，d21 はそれらに比べて予測という観点からはあまり重要ではないことがわかる（これらに対する P 値が大きいので，これらの係数は 0 でないととはいえないということがわかる）。


***** 分散分析表 *****

要因 　　　平方和 　　自由度 　　平均平方 　　　　Ｆ値 　　　Ｐ値 回帰 760.5444 4 190.1361 16.19067 0.00023 残差 117.4356 10 11.74356 全体 877.9800 14

P 値が 小さいので（例えば 5% の有意水準で検定すると），この重回帰式により十分予測できるといえる。

重相関係数 = 0.93072 決定係数（重相関係数の二乗） = 0.86624 自由度調整済み重相関係数の二乗 = 0.81274

重相関係数，決定係数の値は数量化 I 類による結果と全く同じになる

***** 従属変数の観察値，予測値および標準化残差 *****

ケース 　　観察値 　　　予測値 　　　　残差 　標準化残差 1 9.3 8.66875 0.63125 0.24038 2 7.6 11.28625 -3.68625 -1.23779 3 11.9 11.28625 0.61375 0.20609 4 12.4 11.28625 1.11375 0.37398 5 14.7 13.37250 1.32750 0.50253 6 17.7 15.41250 2.28750 0.76458 7 10.4 15.41250 -5.01250 -1.67538 8 19.8 15.41250 4.38750 1.46648 9 21.1 18.03000 3.07000 1.15313 10 15.0 20.11625 -5.11625 -1.78544 11 20.5 20.11625 0.38375 0.13392 12 23.6 25.89375 -2.29375 -0.87346 13 27.4 28.51125 -1.11125 -0.43006 14 31.2 30.59750 0.60250 0.21203 15 33.4 30.59750 2.80250 0.98626

予測値は数量化 I 類による結果と全く同じになる。 結局，偏回帰係数の値とノーマライズドカテゴリースコアの値は異なるように見えるが，定数項を含めた調整の後では全く同じ予測値を与える重みであることが分かる。

***** 予測値と観察値のプロット *****

予測値と観察値はほぼ傾き１の直線の近辺にあり，予測が比較的うまくいっている（数量化 I 類の結果と全く同じ図である）。