第4回 - 2変数の回帰分析 - 版の履歴

2025年1月6日 (月) 10:21にWikiによる

2025-01-06T10:21:40Z

← 古い版		2025年1月6日 (月) 19:21時点における版
14行目:		14行目:
	<math>		<math>
	\begin{align}		\begin{align}
	a &= \frac{\mbox{x と y の共分散 }}{\mbox{x の母分散 }} \\		a &= \frac{\mbox{ x と y の共分散 }}{\mbox{ x の母分散 }} \\
	&= \frac{\frac{1}{n} \sum_{i=1}^N (x_i - \bar{x})(y_i - \bar{y})}{\sigma_x^2}		&= \frac{\frac{1}{n} \sum_{i=1}^N (x_i - \bar{x})(y_i - \bar{y})}{\sigma_x^2}
	\end{align}		\end{align}
37行目:		37行目:
	* 代入するxの値には注意が必要である。		* 代入するxの値には注意が必要である。
	** 内挿 (問題なし)		** 内挿 (問題なし)
	**: <math>\mbox{元データの最小 x} \leqq \mbox{代入する x} \leqq \mbox{元データの最大 x}</math>		**: <math>\mbox{ 元データの最小 x } \leqq \mbox{ 代入する x } \leqq \mbox{ 元データの最大 x }</math>
	** 外挿 (問題あり : 範囲外での推定精度は保証できないため)		** 外挿 (問題あり : 範囲外での推定精度は保証できないため)
	**: <math>\mbox{代入する x} \leqq \mbox{元データの最小 x}</math>		**: <math>\mbox{ 代入する x } \leqq \mbox{ 元データの最小 x }</math>
	**: または		**: または
	**: <math>\mbox{元データの最大 x} \leqq \mbox{代入する x}</math>		**: <math>\mbox{ 元データの最大 x } \leqq \mbox{ 代入する x }</math>
	**: <br>		**: <br>
	**: ただし、外挿しても問題ない場合もあるため、推定結果が妥当かどうかを常に考えることが重要である。		**: ただし、外挿しても問題ない場合もあるため、推定結果が妥当かどうかを常に考えることが重要である。
51行目:		51行目:
	<br>		<br>
	* 寄与率R<sup>2</sup>は、0〜1の範囲にあり、回帰直線の精度が高いほど寄与率は1に近づく。		* 寄与率R<sup>2</sup>は、0〜1の範囲にあり、回帰直線の精度が高いほど寄与率は1に近づく。
	* 相関係数r<sub>xy</sub>の2乗が寄与率R<sup>2</sup>に等しい。<br><math>R^2 = (r_{xy})^{2} = \mbox{( 相関係数 )}^{2}</math>		* 相関係数r<sub>xy</sub>の2乗が寄与率R<sup>2</sup>に等しい。<br><math>R^2 = (r_{xy})^{2} = \mbox{( 相関係数 )}^{2}</math>
	<br><br>		<br><br>

120行目:		120行目:
	a &= \frac{\sum_{i=1}^N {(x_i - \bar{x})(y_i - \bar{y})}}{\sum_{i=1}^N {(x_i - \bar{x})^{2}}} \\		a &= \frac{\sum_{i=1}^N {(x_i - \bar{x})(y_i - \bar{y})}}{\sum_{i=1}^N {(x_i - \bar{x})^{2}}} \\
	&= \frac{C_{xy}}{\sigma_{x}^{2}} \\		&= \frac{C_{xy}}{\sigma_{x}^{2}} \\
	&= \frac{\mbox{x と y の共分散 }}{\mbox{x の母分散 }}		&= \frac{\mbox{ x と y の共分散 }}{\mbox{ x の母分散 }}
	\end{align}		\end{align}
	</math><br>		</math><br>
	<br>		<br>
	全データ組の誤差の2乗和Seが最小になる回帰係数は、<br>		全データ組の誤差の2乗和Seが最小になる回帰係数は、<br>
	<math>a = \frac{\mbox{x と y の共分散 }}{\mbox{x の母分散 }}</math><br>		<math>a = \frac{\mbox{ x と y の共分散 }}{\mbox{ x の母分散 }}</math><br>
	<math>b = \bar{y} - a \bar{x}</math><br>		<math>b = \bar{y} - a \bar{x}</math><br>
	<br>		<br>

Wiki: /* 回帰分析の原理 */

2022-07-25T17:31:33Z

回帰分析の原理

← 古い版		2022年7月26日 (火) 02:31時点における版
60行目:		60行目:
	[[ファイル:Statistics 4 1.png\|フレームなし\|中央]]		[[ファイル:Statistics 4 1.png\|フレームなし\|中央]]
	<br>		<br>
	真値との誤差の2乗 <math>\epsilon_{i}^{2} = (y_i - \~~bar~~{y_i})^{2}</math> の総和が最小になれば、直線モデル(回帰直線)が最良になる。<br>		真値との誤差の2乗 <math>\epsilon_{i}^{2} = (y_i - \hat{y_i})^{2}</math> の総和が最小になれば、直線モデル(回帰直線)が最良になる。<br>
	<br>		<br>
	~~元の値yiと回帰直線で推定した値~~ <math>y_i = a x_i + b</math> の差(誤差 <math>\epsilon_{i}^{2} = y_i - \hat{y_i})</math> が最小になるようにするには、<br>		元の値y<sub>i</sub>と回帰直線で推定した値 <math>\hat{y_i} = a x_i + b</math> の差(誤差 <math>\epsilon_{i}^{2} = (y_i - \hat{y_i})^2</math> )が最小になるようにするには、<br>
	全データの誤差の2乗(<math>\epsilon_{i}^{2} = (y_i - \hat{y_i})^{2}</math>)の和が最小になるように、直線の傾きaと切片bを決める。<br>		全データの誤差の2乗(誤差<math>\epsilon_{i}^{2} = (y_i - \hat{y_i})^{2}</math>)の和が最小になるように、直線の傾きaと切片bを決める。<br>
	<br>		<br>
	これを、<u>最小2乗法</u>と呼ぶ。<br>		これを、<u>最小2乗法</u>と呼ぶ。<br>
74行目:		74行目:
	</math><br>		</math><br>
	<br>		<br>
	~~全データ組の誤差の2乗和Seを最小にする回帰係数a、bを求める。~~<br>		全データ組の誤差の2乗和S<sub>e</sub>を最小にする回帰係数a、bを求める。<br>
	<math>		<math>
	\begin{align}		\begin{align}
82行目:		82行目:
	</math><br>		</math><br>
	<br>		<br>
	~~上記の回帰係数を求めるには、Seの偏微分の結果が0となる鞍点を求める。~~<br>		上記の回帰係数を求めるには、S<sub>e</sub>の偏微分の結果が0となる鞍点を求める。<br>
	<math>		<math>
	\begin{align}		\begin{align}

Wiki: /* 回帰分析の原理 */

2022-07-25T17:12:04Z

回帰分析の原理

← 古い版		2022年7月26日 (火) 02:12時点における版
60行目:		60行目:
	[[ファイル:Statistics 4 1.png\|フレームなし\|中央]]		[[ファイル:Statistics 4 1.png\|フレームなし\|中央]]
	<br>		<br>
	真値との誤差の2乗 <math>\epsilon_{i}^{2} = (y_i - y_i)^{2}</math> の総和が最小になれば、直線モデル(回帰直線)が最良になる。<br>		真値との誤差の2乗 <math>\epsilon_{i}^{2} = (y_i - \bar{y_i})^{2}</math> の総和が最小になれば、直線モデル(回帰直線)が最良になる。<br>
	<br>		<br>
	元の値yiと回帰直線で推定した値 <math>y_i = a x_i + b</math> の差(誤差 <math>\epsilon_{i}^{2} = y_i - \hat{y_i})</math> が最小になるようにするには、<br>		元の値yiと回帰直線で推定した値 <math>y_i = a x_i + b</math> の差(誤差 <math>\epsilon_{i}^{2} = y_i - \hat{y_i})</math> が最小になるようにするには、<br>

Wiki: /* 回帰分析とは */

2022-07-02T07:36:42Z

回帰分析とは

← 古い版		2022年7月2日 (土) 16:36時点における版
12行目:		12行目:
	2変数間の相関係数r<sub>xy</sub>の絶対値が大きい場合に有効である。<br>		2変数間の相関係数r<sub>xy</sub>の絶対値が大きい場合に有効である。<br>
	<br>		<br>
	<math>a = \frac{\mbox{x と y の共分散 }}{\mbox{x の母分散 }}</math><br>		<math>
			\begin{align}
			a &= \frac{\mbox{x と y の共分散 }}{\mbox{x の母分散 }} \\
			&= \frac{\frac{1}{n} \sum_{i=1}^N (x_i - \bar{x})(y_i - \bar{y})}{\sigma_x^2}
			\end{align}
			</math><br>
			<br>
	<math>b = \bar{y} - a \bar{x}</math><br>		<math>b = \bar{y} - a \bar{x}</math><br>
	<br>		<br>

Wiki: /* 回帰分析の原理 */

2021-07-14T01:39:21Z

回帰分析の原理

← 古い版		2021年7月14日 (水) 10:39時点における版
52行目:		52行目:
	実際には誤差があるため、元の値y<sub>i</sub>と回帰直線の式で推定した値 <math>\hat{y_i} = a x_i + b</math>の差が最小になるようにしなくてはならない。<br>		実際には誤差があるため、元の値y<sub>i</sub>と回帰直線の式で推定した値 <math>\hat{y_i} = a x_i + b</math>の差が最小になるようにしなくてはならない。<br>
	<br>		<br>
			[[ファイル:Statistics 4 1.png\|フレームなし\|中央]]
	<br>		<br>
	真値との誤差の2乗 <math>\epsilon_{i}^{2} = (y_i - y_i)^{2}</math> の総和が最小になれば、直線モデル(回帰直線)が最良になる。<br>		真値との誤差の2乗 <math>\epsilon_{i}^{2} = (y_i - y_i)^{2}</math> の総和が最小になれば、直線モデル(回帰直線)が最良になる。<br>

Wiki: /* 回帰分析の原理 */

2021-07-13T23:53:25Z

回帰分析の原理

← 古い版		2021年7月14日 (水) 08:53時点における版
137行目:		137行目:
	&= \sum_{i=1}^N {(y_i - \bar{y})^{2}} - a \sum_{i=1}^N {(x_i - \bar{x})(y_i - \bar{y})}		&= \sum_{i=1}^N {(y_i - \bar{y})^{2}} - a \sum_{i=1}^N {(x_i - \bar{x})(y_i - \bar{y})}
	\end{align}		\end{align}
	</math>		</math><br>
	<br><br>		<br><br>

	__FORCETOC__		__FORCETOC__
	[[カテゴリ:統計学]]		[[カテゴリ:統計学]]

Wiki: ページの作成:「== 概要 == 記述統計において、2変数間の相関がある時、
一方の変数xから他方の変数yの関係式を求める方法である回帰分析…」

2021-07-13T23:52:58Z

ページの作成:「== 概要 == 記述統計において、2変数間の相関がある時、 一方の変数xから他方の変数yの関係式を求める方法である回帰分析…」

新規ページ

== 概要 ==
記述統計において、2変数間の相関がある時、 
一方の変数xから他方の変数yの関係式を求める方法である回帰分析を学習する。 
 

== 回帰分析とは ==
N個のデータの組x1、y1、...、xN、yNについて、 
直線モデル(回帰直線) <math>y = ax + b</math>を当てはめて、データの分布を表す直線を計算することである。 
 
これは、直線の傾きaと切片bを変化させて決める。 
 
2変数間の相関係数rxyの絶対値が大きい場合に有効である。 
 
<math>a = \frac{\mbox{x と y の共分散 }}{\mbox{x の母分散 }}</math> 
<math>b = \bar{y} - a \bar{x}</math> 
 
以上のことから、回帰直線は次式となる。 
<math>
\begin{align}
\hat{y} &= ax + b \\
&= ax + \bar{y} - a \bar{x} \\
&= a(x - \bar{x}) + \bar{y}
\end{align}
</math> 
 

== 回帰分析の使い道 ==
* 回帰直線を使用して、yの推定に利用する。
*: <math>\hat{y} = ax + b = a(x - \bar{x}) + \bar{y}</math>
*: 
* 代入するxの値には注意が必要である。
** 内挿 (問題なし)
**: <math>\mbox{元データの最小 x} \leqq \mbox{代入する x} \leqq \mbox{元データの最大 x}</math>
** 外挿 (問題あり : 範囲外での推定精度は保証できないため)
**: <math>\mbox{代入する x} \leqq \mbox{元データの最小 x}</math>
**: または
**: <math>\mbox{元データの最大 x} \leqq \mbox{代入する x}</math>
**: 
**: ただし、外挿しても問題ない場合もあるため、推定結果が妥当かどうかを常に考えることが重要である。
 

== 回帰分析の推定精度 ==
回帰分析の推定精度を表すには、寄与率R2を用いる。 
<math>R^2 = 1 - \frac{S_e}{\sum_{i=1}^N {(y_i - \bar{y})^2}}</math> 
 
* 寄与率R2は、0〜1の範囲にあり、回帰直線の精度が高いほど寄与率は1に近づく。
* 相関係数rxyの2乗が寄与率R2に等しい。 <math>R^2 = (r_{xy})^{2} = \mbox{( 相関係数 )}^{2}</math>
 

== 回帰分析の原理 ==
N個のデータの組(x1, y1)、...、(xN, yN)について、直線モデル(回帰直線)<math>\hat{y} = ax + b</math>を当てはめる時、 
実際には誤差があるため、元の値yiと回帰直線の式で推定した値 <math>\hat{y_i} = a x_i + b</math>の差が最小になるようにしなくてはならない。 
 

 
真値との誤差の2乗 <math>\epsilon_{i}^{2} = (y_i - y_i)^{2}</math> の総和が最小になれば、直線モデル(回帰直線)が最良になる。 
 
元の値yiと回帰直線で推定した値 <math>y_i = a x_i + b</math> の差(誤差 <math>\epsilon_{i}^{2} = y_i - \hat{y_i})</math> が最小になるようにするには、 
全データの誤差の2乗(<math>\epsilon_{i}^{2} = (y_i - \hat{y_i})^{2}</math>)の和が最小になるように、直線の傾きaと切片bを決める。 
 
これを、最小2乗法と呼ぶ。 
<math>
\begin{align}
S_e &= \sum_{i=1}^N {\epsilon_{i}^{2}} \\
&= \sum_{i=1}^N {(y_i - \hat{y_i})^{2}} \\
&= \sum_{i=1}^N {\{y_i - (a x_i + b)\}}^{2}
\end{align}
</math> 
 
全データ組の誤差の2乗和Seを最小にする回帰係数a、bを求める。 
<math>
\begin{align}
S_e &= \sum_{i=1}^N {(y_i - \hat{y_i})^{2}} \\
&= \sum_{i=1}^N {\{y_i - (a x_i + b)\}^{2}}
\end{align}
</math> 
 
上記の回帰係数を求めるには、Seの偏微分の結果が0となる鞍点を求める。 
<math>
\begin{align}
\frac{\partial S_e}{\partial a} &= 2 \cdot \sum_{i=1}^N \{y_i - (a x_i + b)\} \cdot (- x_i) \\
&= 0
\end{align}
</math> 
 
<math>
\begin{align}
\frac{\partial S_e}{\partial b} &= 2 \cdot \sum_{i=1}^N \{y_i - (a x_i + b)\} \cdot (-1) \\
&= 0
\end{align}
</math> 
 
上記の2式を整理して次式とする。 
これらを、正規方程式と呼ぶ。 
<math>\sum_{i=1}^N {y_i - a } \cdot \sum_{i=1}^N {x_i - b} \cdot N = 0</math> … (1) 
<math>\sum_{i=1}^N {x_i y_i} - a \sum_{i=1}^N {x_{i}^{2}} - b \sum_{i=1}^N {x_i} = 0</math> … (2) 
 
上式を全データ組Nで除算する。 
<math>
\begin{align}
b &= \frac{1}{N} \sum_{i=1}^N {y_i} - a \frac{1}{N} \sum_{i=1}^N {x_i} \\
&= \bar{y} - a \bar{x}
\end{align}
</math> 
 
したがって、回帰直線の切片bは、傾きa、xの平均、yの平均で求めることができる。 
 
<math>b = \bar{y} - a \bar{x}</math> を下式に代入する。 
<math>\sum_{i=1}^N {x_i y_i} - a \sum_{i=1}^N {x_{i}^{2}} - (\bar{y} - a \bar{x}) \sum_{i=1}^N {x_i} = 0</math> 
<math>
\begin{align}
a \left ( \sum_{i=1}^N {x_{i}^{2}} - N \bar{x}^{2} \right ) &= \left ( \sum_{i=1}^N {x_i - y_i} - N \bar{x} \bar{y} \right ) \\
a \sum_{i=1}^N {(x_i - \bar{x})^{2}} &= \sum_{i=1}^N {(x_i - \bar{x})(y_i - \bar{y})} \\
a &= \frac{\sum_{i=1}^N {(x_i - \bar{x})(y_i - \bar{y})}}{\sum_{i=1}^N {(x_i - \bar{x})^{2}}} \\
&= \frac{C_{xy}}{\sigma_{x}^{2}} \\
&= \frac{\mbox{x と y の共分散 }}{\mbox{x の母分散 }}
\end{align}
</math> 
 
全データ組の誤差の2乗和Seが最小になる回帰係数は、 
<math>a = \frac{\mbox{x と y の共分散 }}{\mbox{x の母分散 }}</math> 
<math>b = \bar{y} - a \bar{x}</math> 
 
したがって、回帰直線は全データ組の平均値xとyを通る。 
<math>
\begin{align}
\hat{y} &= ax + b \\
&= ax + \bar{y} - a \bar{x} \\
&= a(x - \bar{x}) + \bar{y}
\end{align}
</math> 
 
最小となったSeの値は、次式となる。 
<math>
\begin{align}
S_e &= \sum_{i=1}^N {y_i - (a x_i + b)}^{2} \\
&= \sum_{i=1}^N {(y_i - \bar{y})^{2}} - a \sum_{i=1}^N {(x_i - \bar{x})(y_i - \bar{y})}
\end{align}
</math>
 

__FORCETOC__
[[カテゴリ:統計学]]

第4回 - 2変数の回帰分析 - 版の履歴

2025年1月6日 (月) 10:21にWikiによる

Wiki: /* 回帰分析の原理 */

Wiki: /* 回帰分析の原理 */

Wiki: /* 回帰分析とは */

Wiki: /* 回帰分析の原理 */

Wiki: /* 回帰分析の原理 */

Wiki: ページの作成:「== 概要 == 記述統計において、2変数間の相関がある時、 一方の変数xから他方の変数yの関係式を求める方法である回帰分析…」

Wiki: ページの作成:「== 概要 == 記述統計において、2変数間の相関がある時、
一方の変数xから他方の変数yの関係式を求める方法である回帰分析…」