はじめに
統計を勉強していると、二項分布は正規分布で近似できる、という話が出てきます。
例えば、コインを100回投げて、表が出た回数を数えるとします。
表が52回出ることもあれば、48回出ることもあります。もちろん、ぴったり50回になるとは限りません。
この「100回中、表が何回出るか」が二項分布です。
そして統計の教科書では、だいたい次のように説明されます。
\(X \sim \mathrm{Bin}(n, p)\) のとき、\(n\) が十分大きければ、\(X\) は平均 \(np\)、分散 \(np(1-p)\) の正規分布で近似できる。
式だけ見ると、次のような話です。
\(\displaystyle X \sim \mathrm{Bin}(n,p) \approx N\left(np,\,np(1-p)\right)\)
ただ、ここで引っかかる人もいると思います。
中心極限定理で正規分布に近づくのは、「標本平均」や「和」だったはずです。
では、なぜ二項分布そのものを正規分布で近似できるのでしょうか。
この記事では、二項分布の正規近似を、式の暗記ではなく、成功・失敗を0と1にして足し上げるという見方から整理します。
まず中心極限定理の役割を確認する
中心極限定理は、ざっくりいうと「たくさん足すと、正規分布っぽくなる」という定理です。
ここで大事なのは、「たくさん足す」という部分です。
1つ1つの確率変数が正規分布である必要はありません。コイン投げのように0か1しか取らない変数でも、たくさん足すと合計値の分布はだんだん正規分布に近づきます。
独立で同じ分布に従う確率変数 \(X_1, X_2, \ldots, X_n\) を考えます。
もう少し式で書くと、\(X_i\) の平均を \(\mu\)、分散を \(\sigma^2\) としたとき、和 \(S_n = X_1 + \cdots + X_n\) について、次の量が標準正規分布に近づきます。
\(\displaystyle \frac{S_n – n\mu}{\sqrt{n}\sigma} \Rightarrow N(0,1)\)
この式は、次の処理をまとめたものです。
- たくさん足したもの \(S_n\) を見る
- 平均 \(n\mu\) を引いて中心をそろえる
- 標準偏差 \(\sqrt{n}\sigma\) で割ってスケールをそろえる
- すると標準正規分布に近づく
中心極限定理が直接扱っているのは、たくさんの確率変数の和です。
したがって、二項分布に中心極限定理を使いたいなら、二項分布を「何かの和」として見られる必要があります。
二項分布はベルヌーイ分布の和である
ここで、二項分布の意味に戻ります。
二項分布 \(\mathrm{Bin}(n,p)\) は、成功確率 \(p\) の試行を \(n\) 回行ったときの、成功回数の分布です。
例えば、コインを10回投げて表が出る回数、アンケートで100人中何人が賛成するか、などが典型例です。
1回ごとの試行を、成功なら1、失敗なら0を取る確率変数として表します。
\(\displaystyle Y_i = \begin{cases} 1 & \text{成功したとき} \\ 0 & \text{失敗したとき} \end{cases}\)
この \(Y_i\) はベルヌーイ分布に従います。
\(\displaystyle Y_i \sim \mathrm{Bernoulli}(p)\)
そして、成功回数 \(X\) は、この \(Y_i\) を全部足したものです。
\(\displaystyle X = Y_1 + Y_2 + \cdots + Y_n\)
コインを100回投げるなら、100本の小さな0/1スイッチを並べているようなものです。
表なら1、裏なら0。その100個を足すと、表が出た回数になります。
つまり、二項分布は「完成した1つの分布」として突然出てくるのではなく、0/1の試行をたくさん積み上げたものです。
つまり、二項分布は次のように書けます。
\(\displaystyle X \sim \mathrm{Bin}(n,p) \quad \Longleftrightarrow \quad X = \sum_{i=1}^{n} Y_i,\; Y_i \sim \mathrm{Bernoulli}(p)\)
ここで、中心極限定理が使える形になりました。
二項分布は、いきなり正規分布に近づくのではありません。二項分布がベルヌーイ分布の和として書けるから、中心極限定理を使えるということです。
平均と分散も和として出てくる
ベルヌーイ分布 \(Y_i \sim \mathrm{Bernoulli}(p)\) の平均と分散は、次の通りです。
\(\displaystyle E[Y_i] = p, \qquad V[Y_i] = p(1-p)\)
これを \(n\) 個足したものが二項分布です。
したがって、和 \(X = Y_1 + \cdots + Y_n\) の平均は、
\(\displaystyle E[X] = np\)
分散は、独立性を使って、
\(\displaystyle V[X] = np(1-p)\)
となります。
二項分布の平均と分散として暗記している \(np\) と \(np(1-p)\) は、ベルヌーイ分布を \(n\) 個足した結果として出てきます。
この見方をすると、正規近似の式も自然に見えます。
\(\displaystyle X \approx N\left(np,\,np(1-p)\right)\)
これは、「二項分布の形がなんとなく釣鐘型になる」という話ではありません。
0/1の試行をたくさん足すので、中心極限定理が効く。だから、合計値である二項分布を正規分布で近似できる、という話です。
標準化すると見慣れた形になる
中心極限定理では、和をそのまま見るのではなく、平均を引いて標準偏差で割ります。
二項分布 \(X \sim \mathrm{Bin}(n,p)\) の平均は \(np\)、標準偏差は \(\sqrt{np(1-p)}\) です。
したがって、次の量が近似的に標準正規分布に従います。
\(\displaystyle Z = \frac{X – np}{\sqrt{np(1-p)}} \approx N(0,1)\)
統計検定2級などでよく見る、母比率の検定の形もここから来ています。
標本比率を \(\hat{p} = X/n\) とすると、両辺を \(n\) で割ることで、次のように書けます。
\(\displaystyle Z = \frac{\hat{p} – p}{\sqrt{p(1-p)/n}} \approx N(0,1)\)
この式だけを見ると急に難しく見えますが、元をたどると、やっていることは同じです。
成功・失敗を0と1で表し、それをたくさん足して、中心極限定理で正規分布に近づけています。
「再生性」とどう関係するか
二項分布には再生性があります。
例えば、独立な確率変数 \(X_1 \sim \mathrm{Bin}(n_1,p)\) と \(X_2 \sim \mathrm{Bin}(n_2,p)\) があるとき、
\(\displaystyle X_1 + X_2 \sim \mathrm{Bin}(n_1+n_2,p)\)
が成り立ちます。
これは、同じ成功確率 \(p\) の試行を \(n_1\) 回行った成功回数と、さらに \(n_2\) 回行った成功回数を足せば、合計 \(n_1+n_2\) 回の成功回数になる、ということです。
この再生性は、二項分布を「和の分布」として見る助けになります。
ただし、正規近似の本体は、再生性という言葉そのものではありません。
重要なのは、二項分布が独立なベルヌーイ分布の和として表せることです。その結果として、中心極限定理が使えます。
再生性は、「分布を足し合わせても同じ種類の分布に戻る」という性質です。
一方で、今回の理解で一番大事なのは、もっと手前の話です。
表が出たら1、裏なら0。その0/1をたくさん足している。だから中心極限定理の対象になる。
この順番で見ると、二項分布の正規近似はかなり自然になります。
正規近似はいつでも使えるわけではない
二項分布は、\(n\) が大きければ正規分布で近似できます。
ただし、\(n\) が大きいだけで十分とは限りません。
例えば、\(p\) が極端に小さい場合、成功回数は0付近に偏りやすく、分布は左右対称になりにくいです。
実務や試験では、目安として次の条件が使われることがあります。
\(\displaystyle np \ge 5, \qquad n(1-p) \ge 5\)
あるいは、より保守的に、
\(\displaystyle np \ge 10, \qquad n(1-p) \ge 10\)
と見ることもあります。
この条件は、「成功も失敗もある程度の回数だけ起きているか」を確認しています。
成功がほとんど起きない、あるいは失敗がほとんど起きない場合、二項分布は片側に寄った形になります。その場合、正規分布で近似すると誤差が大きくなりやすいです。
連続補正について
二項分布は離散分布です。成功回数は0回、1回、2回のように整数で動きます。
一方、正規分布は連続分布です。実数全体をなめらかに動きます。
そのため、二項分布を正規分布で近似するときは、連続補正を使うことがあります。
例えば、二項分布で \(P(X \le 10)\) を近似したい場合、正規分布では \(P(X \le 10.5)\) のように、0.5だけずらして計算します。
これは、整数10を中心とする区間を、連続分布上で \(9.5\) から \(10.5\) までの幅として扱うためです。
近似の精度を少しでも上げたい場合、連続補正は知っておくと便利です。
まとめ
二項分布を正規分布で近似できる理由は、二項分布がベルヌーイ分布の和として書けるからです。
中心極限定理は、たくさんの確率変数の和が正規分布に近づくことを述べています。
二項分布 \(\mathrm{Bin}(n,p)\) は、成功なら1、失敗なら0を取るベルヌーイ分布を \(n\) 個足したものです。
そのため、\(n\) が十分大きく、成功回数と失敗回数がどちらもある程度ある場合、次の近似が使えます。
\(\displaystyle X \sim \mathrm{Bin}(n,p) \approx N\left(np,\,np(1-p)\right)\)
式を暗記するだけだと、中心極限定理と二項分布の正規近似が別々の話に見えます。
しかし、間に「ベルヌーイ分布の和」という見方を挟むと、両者は自然につながります。
統計検定2級の対策でも、実務で比率を扱う場合でも、このつながりを押さえておくと、正規近似の式をかなり思い出しやすくなると思います。
覚えるべき形は複雑に見えますが、見方はシンプルです。
成功回数は、0と1の足し算です。
その足し算が十分たくさんあるから、正規分布で近似できます。
関連記事
- 統計検定2級に合格するまでにやったこと【2021年CBT体験記】: 統計検定2級の勉強法や、CBT試験を受けたときの体験をまとめています。
コメント