【統計検定2級】高校範囲から先を初心者にもわかりやすく説明してみる

学生生活

理系を名乗りながら統計に詳しくないのは正直まずい、と思い統計検定2級の勉強を始めました。

高校数学でやった二項分布あたりから、だんだん式の意味が分からない状態に陥りがちです。

省略されがちな計算過程や式そのものの意味を、自分なりに解釈し直すことを主眼にまとめました。

教科書的な厳密さよりも、「なぜその形になるのか」「何を表している式なのか」に重きを置いています。

勉強に使ったサイト→ 統計学の時間|統計WEB

そもそも分布とは

「値がどのあたりに、どれくらいの頻度で出るか」を示す設計図です。

統計では大きく分けて、次の2種類の分布が登場します。

この区別を意識すると、後半の話がかなり整理されます。

① 現象そのものを表す分布(モデル)

「現象がどう起きるか」を直接モデル化したものです。

  • 二項分布
  • ポアソン分布
  • 正規分布
  • 指数分布
  • 幾何分布 など

② 推定・検定のための分布(道具)

  • t分布
  • カイ二乗分布
  • F分布 など

こちらは「統計量がどのように散らばるか」を扱うための分布です。

二項分布 B (n, p)

結果が0か1しかない「ベルヌーイ試行」を行ったときにできる確率分布です。

B (n,p)表記で難しい印象を受けますが、単純に試行回数nと確率pを書いてるだけ。

E (X)は「試行回数×確率」の本来の定理通りですが、本質的には確率と同義です。

E(X)=1u005ccdotp+0u005ccdot(1p)=prnE(X)=1u005ccdot p+0u005ccdot(1-p)=prn

分散 V (X)は直感的な「平均値からの散らばり具合の2乗」から式変形が必要です。

V[X]=1ni=1n(xixˉ)2V[X] = frac{1}{n}sum_{i=1}^n (x_i – bar{x})^2(xixˉ)2=xi22xixˉ+xˉ2(x_i – bar{x})^2 = x_i^2 – 2x_ibar{x} + bar{x}^2

1n(2xixˉ)=2xˉ1nxi=2xˉ2frac{1}{n}sum (-2x_ibar{x}) = -2bar{x} cdot frac{1}{n}sum x_i = -2bar{x}^21nxˉ2=xˉ2frac{1}{n}sum bar{x}^2 = bar{x}^2これらをまとめると、V[X]=(1nxi2)xˉ2V[X] = left(frac{1}{n}sum x_i^2right) – bar{x}^2期待値で書けば、V[X]=E[X2](E[X])2V[X] = E[X^2] – (E[X])^2

ポアソン分布 P (λ)

「個別の試行はどうでもいいから、“一定時間で何件起きるか” だけを考えたい」時の分布です。

二項分布 B (n, p) の特殊な極限として登場した単独のモデル。二項分布に対して

  • n → ∞(試行回数は非常に多い)
  • p → 0(1回あたりの成功確率は非常に小さい)
  • ただし λ = np は一定の有限値に固定

この3条件を同時に取るとポアソン分布 P (λ)という収束が起きます。

nとpの値がなくても、平均発生回数 λlambdaλ だけで記述できるのが特徴です。

P(X=k)=eu005clambdau005cfracu005clambdakk!u005cqquad(k=0,1,2,u005cdots)P(X=k)=e^{-u005clambda}u005cfrac{u005clambda^k}{k!}u005cqquad(k=0,1,2,u005cdots)

正規分布

ポアソン分布のλが限りなく大きいと、「中心極限定理」の影響でポアソン分布は正規分布に近づきます。

1回あたりの成功確率はほぼゼロ、試行回数は天文学的、その結果、平均成功回数が増えていきます。

X∼Poisson (λ)かつ、λ が十分大きいなら

Xu005csimu005cmathcalN(u005cmu,u005csigma2)rnX u005csim u005cmathcal{N}(u005cmu,u005csigma^2)rn

正規分布にも式があるが、突き詰めると自由度が平均 E (X)= μと分散 V (X)=σ²のみになります。

二項分布やポアソン分布と異なり、 E (X)= μとV (X)= σ² を計算して求める必要がありません。

中心極限定理

  • 独立な確率変数をたくさん足すと、元の分布が何であっても、和や平均は正規分布に近づく。

1回の試行はばらつきが大きいため、可能な限り試行してその平均を取りばらつきを小さくした分布

u005cbarX=u005cfrac1nu005csumi=1nXirnu005cbar X=u005cfrac{1}{n}u005csum_{i=1}^n X_irn

Xiは一回ごとの試行。これをn回繰り返して平均を取り、毎回その値が出たと仮定します。

u005cmuu005cbarX=u005cfrac1nu005csumi=1nu005cmuinu005cmu_{u005cbar X}=u005cfrac{1}{n}u005csum_{i=1}^n u005cmu_in
u005csigmau005cbarX2=u005cfrac1n2u005csumi=1nu005csigma2=u005cfracu005csigma2nrnu005csigma^2_{u005cbar X}=u005cfrac{1}{n^2}u005csum_{i=1}^n u005csigma^2=u005cfrac{u005csigma^2}{n}rn

分散は2乗した量なので効果が2乗で効いてくるため、nではなくn²で割っています。

そうするとより偏りの少ない以下の正規分布が完成します。分散が1/nに小さくなります。

u005cbarXu005csimu005cmathcalN(u005cmu,u005cfracu005csigma2n)nu005cbar X u005csim u005cmathcal{N}(u005cmu,u005cfrac{u005csigma^2}{n})n

指数分布

指数分布とは,ランダムなイベントの発生間隔を表す分布です。

ランダムな現象を「発生間隔で捉えると指数分布,発生回数で捉えるとポアソン分布」と覚えましょう。

その他の分布

幾何分布当たりが出るまで何回引く?(戻す)

E[X]=u005cfrac1prnE[X] = u005cfrac{1}{p}rn
u005cmathrmVar(X)=u005cfrac1pp2rnu005cmathrm{Var}(X) = u005cfrac{1-p}{p^2}rn

超幾何分布戻さずに何個当たりを引く?

母集団サイズ NN、成功数 KK、抽出数 nn、成功数を XX

E[X]=nu005cfracKNrnE[X] = n u005cfrac{K}{N}rn
u005cmathrmVar(X)rn=nu005cfracKNu005cleft(1u005cfracKNu005cright)u005cfracNnN1rnu005cmathrm{Var}(X)rn= n u005cfrac{K}{N}u005cleft(1-u005cfrac{K}{N}u005cright)u005cfrac{N-n}{N-1}rn

負の二項分布:成功が r 回出るまでに、全部で何回試行するか

成功回数 rrr、成功確率 ppp、成功が r 回出るまでの試行回数 X

E[X]=u005cfracrprnE[X] = u005cfrac{r}{p}rn
u005cmathrmVar(X)=u005cfracr(1p)p2rnu005cmathrm{Var}(X) = u005cfrac{r(1-p)}{p^2}rn

点推定と不偏分散

点推定:母数を「1つの値」で当てにいく。ここでは標本平均を用いて推定を行います。

nが十分に大きくない場合には標本分散の期待値は母分散に一致せず、母分散より小さくなります。

その場合、標本分散の値を調整した「不偏分散」s² を算出します。

これは分散を求める際に nの代わりに (n-1)で割る(次元が1つ減るかららしい、難しいので省略)

s2=u005cfrac1n1u005csumi=1n(xiu005cbarx)2rns^2=u005cfrac{1}{n-1}u005csum_{i=1}^n (x_i-u005cbar{x})^2rn

標準誤差 SE

標本平均の標準偏差(標本平均が、標本を取り直したときにどれくらい動くか)です。

平均の標準偏差的な役割で、通常の標準偏差 σ や s とは別なので注意が必要。

u005cmathrmSE(u005cbarX)=u005csqrtu005cfracs2n=u005cfracsu005csqrtnu005csimu005cfracu005csigmau005csqrtnu005cmathrm{SE}(u005cbar X)=u005csqrt{u005cfrac{s^2}{n}}=u005cfrac{s}{u005csqrt{n}}u005csimu005cfrac{u005csigma}{u005csqrt{n}}

区間推定

区間推定:母数が入っていそうな「範囲」を出します。

母分散 μが分かっている場合は、 μを用いて標準正規分布を用いて信頼区間を算出します。

母分散 μが分からない場合は、不偏分散 s²を用いて、t分布を用いて信頼区間を算出します。

同じ方法で何度も標本を取り直すと、作った信頼区間のうち約○○%に本当の平均μが含まれます。

①得られているデータから標本平均を出す

②不偏分散s²から標準誤差SEを計算し、母平均を求める

(u005cfracsu005csqrtn)2=u005cfracn(u005cmuu005cbarx)2n(u005cfrac{s}{u005csqrt{n}})^2=u005cfrac{n(u005cmu-u005cbar x)^2}{n}

左辺:標準偏差の2乗で分散、右辺:各値から平均を引いて2乗、同値なのでn倍、平均でnで割る

t分布

母分散が分からない状態では σ²の代わりに不偏分散 s²を用いるが、この時は正規分布表は使えません。

代わりに使うのが「t分布」で、tは以下のように定義されます

t=u005cfracu005cbarXu005cmus/u005csqrtnrnt = u005cfrac{u005cbar X – u005cmu}{s / u005csqrt{n}}rn

分子 = 実際の差、分母 = 標本平均の「予想されるばらつきSE」、差が偶然のばらつきの何倍かを測ります。

E[t]=0u005cquad(u005cnuu003e1)rnE[t] = 0 u005cquad (u005cnu u003e 1)rn
u005cmathrmVar(t)=u005cfracu005cnuu005cnu2u005cquad(u005cnuu003e2)rnu005cmathrm{Var}(t) = u005cfrac{u005cnu}{u005cnu – 2} u005cquad (u005cnu u003e 2)rn

カイ二乗分布

t分布では「平均の不確かさ」を扱う道具(作った信頼区間の約○○%に本当の平均μが含まれるか)

一方でカイ二乗分布は「分散の不確かさ」を扱う道具で、実はt分布もカイ二乗分布を含んでいます。

t分布では母分散 σ²の代わりに標準分散 s² を用いたが、そもそもsも不確実な値です。

分子:平均との差は、分母:普通のズレ の何倍か?を求める。分母があることで標準化されます。

Z=u005cfracXu005cmuu005csigmanZ = u005cfrac{ X – u005cmu}{u005csigma}n

これを足し合わせたものをカイ二乗と定義しています。難しいので割愛。

E(X)=knE(X) = kn
V(X)=2knV(X) = 2kn

F分布

F分布は「2つのばらつきが偶然の差かどうか」を判断するための分布です。

Frn=rnu005cfracS12/u005csigma12S22/u005csigma22rn=rnu005cfracu005cchidf12/df1u005cchidf22/df2rnFrn=rnu005cfrac{S_1^2/u005csigma_1^2}{S_2^2/u005csigma_2^2}rn=rnu005cfrac{u005cchi^2_{df_1}/df_1}{u005cchi^2_{df_2}/df_2}rn

検定と過誤

現実(真実)\判断帰無仮説を棄却しない帰無仮説を棄却する
帰無仮説が正しい正しい判断第1種の過誤(α)
帰無仮説が正しくない第2種の過誤(β)正しい判断(検出成功)

α:誤って差あり判定する確率(第1種の誤り)→冤罪を出す確率

β:誤って差なし判定する確率(第2種の誤り)→見逃しを出す確率

1−β:本当に差があれば発見できる確率(検出力)

最小二乗法

観測値とモデルのずれが 最も小さくなる ようにパラメータを決める方法です。

  • それぞれのデータで(実際 − 予測)のズレを出す
  • そのズレを二乗 する(マイナスをなくすため)
  • それを全部足す
  • その合計が いちばん小さくなるように予測の式を決める

答えとなる式が直線だとします。そうすると「y = ax + b」のaとbを求めたい。

予測値は

u005chatyi=axi+brnu005chat y_i = ax_i + brn

残差は

ei=yiu005chatyi=yi(axib)ne_i = y_i – u005chat y_i=y_i -(ax_i-b)n
S(a,b)n=u005csumi=1nu005cleft(ei2u005cright)=u005csumi=1nu005cleft(yi(axi+b)u005cright)2nS(a,b)n=u005csum_{i=1}^n u005cleft(e_i^2u005cright) =u005csum_{i=1}^n u005cleft(y_i – (ax_i + b)u005cright)^2n

すると展開された式はaとbの二つの未知数を持つ二次関数になります。

下に凸の二次関数が最小になる条件は、微分して0になることなので、aとbでそれぞれ偏微分。

そうすると連立方程式ができるので、それを解くと以下の解が出てきます。

arn=rnu005cfracrnnu005csumxiyiu005csumxiu005csumyirnrnnu005csumxi2(u005csumxi)2rnrnarn=rnu005cfrac{rnnu005csum x_i y_i – u005csum x_i u005csum y_irn}{rnnu005csum x_i^2 – (u005csum x_i)^2rn}rn
brn=rnu005cfracrnu005csumyiau005csumxirnnrnbrn=rnu005cfrac{rnu005csum y_i – au005csum x_irn}{n}rn

おわりに

↑このブログ記事のように、何を意味しているかを書いているので面白かった本

式を暗記するだけでは統計はなかなか身につきません。

「なぜこの形になるのか」を一度立ち止まって考えることで、分布同士のつながりが見えてきます。

統計検定2級は、その良い訓練素材だと感じました。

勉強の記事

【Cp/Cpk】工程能力指数の基礎を標準偏差と正規分布から説明する
製造分野に関わる人なら一度は聞いたことがあるかも知れない「工程能力」ですが、何だかとっつきにくいかも…何となくの意味はわかるけど、数字が多くて覚えられない…という人のために意味を含めて説明してみます。よくわからない部分や理解に関して間違って…
【最大実体公差】幾何公差の最難関を基本の考え方から中学生にもわかるように解説
これまで幾何公差を勉強する中でどうしても理解できなかった「最大実体公差」。ようやくわかりやすい解説書を見つけて納得しましたが、それでも難しい考え方。専門的な言葉をできるだけ使わずやさしく基礎から説明します。(以下書籍おすすめ)最大実体公差と…
【三相交流】どうして二相交流や四相交流じゃないのか調べた
工場で利用する電源は三相交流というものを使うことが多いですが、これがなかなか理解が難しい。なぜ二相や四相ではなく三相なのかには「2つの条件」があり、両方を満たせる相数が3だからです。また二相交流は歴史上2種類あり混同すると余計にわからなくな…