確率統計 — 確率分布・期待値分散・回帰相関

この章で学ぶこと

不確かさを数理的に扱う確率統計を学びます。期待値・分散と代表的な分布、データから関係を読みとる回帰・相関が中心です。

• 確率変数と確率分布(離散・連続)
• 期待値と分散
• 二項分布・正規分布
• 相関係数と回帰直線(最小二乗法)

ポイント: 期待値は「平均的にどうなるか」、分散は「ばらつきの大きさ」を表す最も基本的な量です。連続分布では「確率密度関数を積分して確率を出す」のがポイント。回帰・相関は2変数データの関係を測ります。

1. 確率変数と期待値・分散

確率変数 $X$ の期待値(平均) $E\left[X\right]$ と分散 $V\left[X\right]$ は、離散・連続でそれぞれ次のように定義します。

	離散	連続(密度 $f$)
期待値	$E\left[X\right]={\sum }_i{x}_i{p}_i$	$E\left[X\right]=\int -\infty \infty xf\left(x\right)\hspace{0.17em}dx$
分散	$V\left[X\right]={\sum }_i(x_i-\mu {)}^2{p}_i$	$V\left[X\right]=\int (x-\mu {)}^{2}f(x)\hspace{0.17em}dx$

分散は $V\left[X\right]=E\left[X^2\right]-\left(E\right[X]{)}^2$ でも計算できます。標準偏差は $\sigma =\sqrt{V\left[X\right]}$。

例題: さいころの目 $X$($1\sim 6$ が等確率 $\frac{1}{6}$)の期待値と分散を求めよ。

$E\left[X\right]=\frac{1+2+3+4+5+6}{6}=\frac{21}{6}=\frac{7}{2}$ $E\left[X^2\right]=\frac{1+4+9+16+25+36}{6}=\frac{91}{6}$ $V\left[X\right]=E\left[X^2\right]-\left(E\right[X]{)}^2=\frac{91}{6}-\frac{49}{4}=\frac{182-147}{12}=\frac{35}{12}$

検算: $\frac{91}{6}=\frac{182}{12}$、$\frac{49}{4}=\frac{147}{12}$、差 $\frac{35}{12}\approx 2.92$。分散は正で妥当な大きさ。正しい。

2. 連続分布の例

例題: 確率密度 $f\left(x\right)=2x (0\le x\le 1)$、それ以外 $0$ の確率変数 $X$ の期待値を求めよ(全確率が $1$ になることも確認せよ)。

まず全確率: $\int 012x\hspace{0.17em}dx=\left[x^2\right]01=1$($\circ$、密度として正当)。期待値は

$E\left[X\right]=\int 01x\cdot 2x\hspace{0.17em}dx=\int 012x^2\hspace{0.17em}dx=\left[\frac{2x^3}{3}\right]01=\frac{2}{3}$

検算: 密度が右上がり($0\le x\le 1$ で大きい $x$ ほど起こりやすい)なので、平均は区間の中点 $0.5$ より大きい $\frac{2}{3}\approx 0.67$ になるのは妥当。正しい。

3. 二項分布と正規分布

二項分布 $B(n,p)$: 成功確率 $p$ の試行を $n$ 回行ったときの成功回数 $X$ の分布。

$P(X=k)=\left(\frac{n}{k}\right)p^k(1-p{)}^{n-k},E[X]=np,V[X]=np(1-p)$

例題: コインを $10$ 回投げたときの表の回数 $X$($p=\frac{1}{2}$)の期待値と分散を求めよ。

$E\left[X\right]=10\cdot \frac{1}{2}=5,V\left[X\right]=10\cdot \frac{1}{2}\cdot \frac{1}{2}=\frac{10}{4}=2.5$

検算: $10$ 回中だいたい半分の $5$ 回が表になるのは直感に合う。分散 $2.5$、標準偏差 $\sqrt{2.5}\approx 1.58$。正しい。

正規分布 $N(\mu ,{\sigma }^2)$: 平均 $\mu$・分散 ${\sigma }^2$ の連続分布で、密度は

$f\left(x\right)=\frac{1}{\sqrt{2\pi }\hspace{0.17em}\sigma }\exp \hspace{0.17em}(-\frac{(x-\mu {)}^2}{2{\sigma }^2})$

平均を中心とした左右対称の釣鐘形で、$X$ を $Z=\frac{X-\mu }{\sigma }$ と標準化すると標準正規分布 $N(0,1)$ に従います。二項分布は $n$ が大きいとき正規分布で近似できます。

大事: 正規分布では「平均 $\pm$ 標準偏差」の範囲に約 $68\%$、「平均 $\pm 2\sigma$」に約 $95\%$ が入ります($68$-$95$-$99.7$ 則)。標準化して標準正規分布表を引くのが確率計算の基本手順です。

4. 相関係数と回帰直線

2変数データ $(x_i,y_i)$ の関係の強さは相関係数

$r=\frac{\sum (x_i-xˉ)(y_i-yˉ)}{\sqrt{\sum (x_i-xˉ{)}^2}\hspace{0.17em}\sqrt{\sum (y_i-yˉ{)}^2}}=\frac{s_{xy}}{s_x{s}_y}$

で測ります($-1\le r\le 1$)。$r$ が $1$ に近いほど右上がりの直線関係が強い。最小二乗法による回帰直線 $y=ax+b$ の傾きは

$a=\frac{s_{xy}}{s}=\frac{\sum (x_i-xˉ)(y_i-yˉ)}{\sum (x_i-xˉ{)}^2},b=yˉ-axˉ$

例題: データ $(1,2),(2,2),(3,4),(4,4)$ の回帰直線を最小二乗法で求めよ。

平均は $xˉ=\frac{1+2+3+4}{4}=2.5$、$yˉ=\frac{2+2+4+4}{4}=3$。偏差の積和と平方和を計算する。

$\sum (x_i-xˉ)(y_i-yˉ)=(-1.5)(-1)+(-0.5)(-1)+\left(0.5\right)\left(1\right)+\left(1.5\right)\left(1\right)=1.5+0.5+0.5+1.5=4$ $\sum (x_i-xˉ{)}^2=(-1.5{)}^2+(-0.5{)}^2+(0.5{)}^2+(1.5{)}^2=2.25+0.25+0.25+2.25=5$

傾き $a=\frac{4}{5}=0.8$、切片 $b=3-0.8\cdot 2.5=3-2=1$。よって回帰直線は

$y=0.8\hspace{0.17em}x+1$

検算: 予測値は $x=1,2,3,4$ で $1.8,2.6,3.4,4.2$。実測 $2,2,4,4$ との残差は $0.2,-0.6,0.6,-0.2$ で和が $0$(最小二乗の性質)。また直線は点 $(xˉ,yˉ)=(2.5,3)$ を通る($0.8\cdot 2.5+1=3$)。正しい。

どう問われるか

• 一次では「期待値・分散の計算」「二項分布・正規分布の確率」が頻出。標準化と確率表の利用が鍵。
• 二次では「連続分布の期待値・分散を積分で求める」「相関係数・回帰直線を計算する」「仮説検定・推定の基礎」が問われます。

まとめ

• 期待値は平均、分散 $V\left[X\right]=E\left[X^2\right]-\left(E\right[X]{)}^2$、標準偏差 $\sigma =\sqrt{V}$
• 二項分布 $E=np, V=np(1-p)$、正規分布は標準化して表を引く
• 相関係数 $r=\frac{s_{xy}}{s_x{s}_y}$、$-1\le r\le 1$
• 回帰直線は最小二乗法、傾き $a=\frac{s_{xy}}{s}$、点 $(xˉ,yˉ)$ を通る

次章では、数値解析・初等整数論と二次対策を学び、本教材を仕上げます。