統計学＞標本と母集団＞中心極限定理＆大数の法則

大数の法則 Law of Large Numbers

より多くのデータから平均を求めた方が、真の平均値に近づく！

• 経験的確率と理論的確率が一致する

  ある試行を１回行って事象Ａが発生する確率 ｐ　が数学的に分らなくても、その試行を n 回行い、そのうち事象Ａが x 回発生した時、x/n を計算する。

  この時、 n を無限に大きくしていくと、 x/n が 確率 p に近づいていく。

  これが大数の法則と呼ばれているもの。

  つまり、標本 はサンプル数 N を大きくしていくと、その分散が小さくなり、 が　μ の近くに集中してくるということを意味する。
  

  

  n 回試行を行って、事象Ａの発生するという確率はベルヌーイ分布に従う。
  

  

  このとき、ｎ を大きくしていくと、ベルヌーイ分布は正規分布になる。
  

  

  ここで、の従う確率密度を求める。
  

  

  より、
  

  
  
  

  ここで、
  

  

  を代入すると、
  

  

  つまり
  

  

  という正規分布に従う。

  ここで、n を ∞ に近づけていくと、
  

  

  となり分散が０になる。

  つまり、p 以外の値をとらなくなる。

ヤコブ・ベルヌーイによる大数の弱法則
WLLN: Weak Law of Large Numbers

• 十分大きな n まで考えれば、ほとんどの n でおおよそ μ である
• Xn が μ から大きく外れるような n の現れる確率は n を無限に大きくすると 0 に近づく

エミール・ボレルやアンドレイ・コルモゴロフによる大数の強法則
SLLN: Strong Law of Large Numbers

• n → ∞ とするとき、Xn は μ にほとんど確実に（almost surely, 確率 1 で）収束する