不偏分散の期待値について - arisaka444のブログ

偏差平方和を標本の大きさで割って得られる標本分散 $S ^ { 2 }$ 、および、偏差平方和を自由度で割ることにより得られる不偏分散 $U ^ { 2 }$ について、次のように定められる。

$S ^ { 2 } = \frac { 1 } { n } \sum _ { i = 1 } ^ { n } \left( X _ { i } - \overline { X } \right) ^ { 2 }$

$U ^ { 2 } = \frac { 1 } { n - 1 } \sum _ { i = 1 } ^ { n } \left( X _ { i } - \overline { X } \right) ^ { 2 }$

不偏分散は母分散の不偏推定量であり、その期待値は母分散に等しい。本記事では、この事実を計算により確認する。

まずは、標本分散 $S ^ { 2 }$ の期待値を確認する。

$E \left[ S ^ { 2 } \right]$

$= E \left[ \frac { 1 } { n } \sum _ { i = 1 } ^ { n } \left( X _ { i } - \overline { X } \right) ^ { 2 } \right]$

$= \frac { 1 } { n } \sum _ { i = 1 } ^ { n } E \left[ \left\{ \left( X _ { i } - \mu \right) - ( \overline { X } - \mu ) \right\} ^ { 2 } \right]$

$= \frac { 1 } { n } \sum _ { i = 1 } ^ { n } E \left[ \left( X _ { i } - \mu \right) ^ { 2 } - 2 \left( X _ { i } - \mu \right) ( \overline { X } - \mu ) + ( \overline { X } - \mu ) ^ { 2 } \right]$

$= \frac { 1 } { n } \sum _ { i = 1 } ^ { n } \left( E \left[ \left( X _ { i } - \mu \right) ^ { 2 } \right] - 2 E \left[ \left( X _ { i } - \mu \right) ( \overline { X } - \mu ) \right] + E \left[ ( \overline { X } - \mu ) ^ { 2 } \right] \right)$

$= \frac { 1 } { n } \sum _ { i = 1 } ^ { n } \left( V [ X ] - 2 E \left[ \left( X _ { i } - \mu \right) ( \overline { X } - \mu ) \right] + V [ \overline { X } ] \right)$

$= \frac { 1 } { n } \sum _ { i = 1 } ^ { n } \left( \sigma ^ { 2 } - 2 E \left[ \left( X _ { i } - \mu \right) ( \overline { X } - \mu ) \right] + \frac { \sigma ^ { 2 } } { n } \right)$

$= \sigma ^ { 2 } - \frac { 2 } { n } \sum _ { i = 1 } ^ { n } E \left[ \left( X _ { i } - \mu \right) ( \overline { X } - \mu ) \right] + \frac { \sigma ^ { 2 } } { n }$